KI-Halluzination: Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Antwort eines KI-Modells, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Das Modell gibt sie mit derselben Sicherheit aus wie eine richtige Antwort.

Typische Beispiele sind erfundene Quellen, falsche Zahlen, nicht existierende Produkte oder Personen, denen Aussagen zugeschrieben werden, die sie nie gemacht haben. Das Tückische daran: Der Text ist flüssig und wirkt kompetent. Wer nicht nachprüft, merkt den Fehler oft nicht.

Woher der Begriff stammt

Der Begriff ist ein Bild aus der Medizin: Wer halluziniert, nimmt etwas wahr, das nicht da ist. Bei KI-Modellen beschreibt er Antworten, die keine Grundlage in den Daten oder in der Wirklichkeit haben. Der Ausdruck war in der Forschung zur maschinellen Übersetzung und Textzusammenfassung schon vor den großen Chatbots verbreitet.

Fachleute kritisieren das Wort manchmal, weil es dem Modell eine Wahrnehmung unterstellt. Es hat sich trotzdem durchgesetzt. Anthropic beschreibt das Phänomen so, dass selbst die fortschrittlichsten Sprachmodelle Text erzeugen können, der sachlich falsch ist oder nicht zum gegebenen Zusammenhang passt.

Wie Halluzinationen entstehen

Ein Sprachmodell berechnet, welches Wort am wahrscheinlichsten als Nächstes passt. Es hat kein eingebautes Wissen darüber, ob eine Aussage stimmt. Meistens führt die Wahrscheinlichkeit zu richtigen Antworten, manchmal aber zu plausibel klingenden falschen.

Eine Studie von Forschenden bei OpenAI aus dem Jahr 2025 nennt einen weiteren Grund: Training und Bewertung belohnen Raten statt das Eingeständnis von Unsicherheit. Sprachmodelle seien darauf optimiert, gute Prüflinge zu sein. Wer in einer Prüfung rät, statt nichts zu schreiben, hat bessere Chancen auf Punkte.

Besonders häufig sind Halluzinationen bei:

seltenen Themen, zu denen es wenige Trainingsdaten gibt
genauen Angaben wie Zahlen, Daten, Namen und Quellen
Fragen zu Ereignissen nach dem Trainingsstand des Modells

Abgrenzung zu ähnlichen Begriffen

Veraltetes Wissen: Wenn ein Modell einen früheren Preis nennt, der damals stimmte, ist das keine Halluzination im engeren Sinn, sondern ein Wissensstand-Problem. Die Folgen sind ähnlich.

Prompt Injection: Hier bringt ein Angreifer das Modell gezielt zu falschen Antworten oder Handlungen. Eine Halluzination entsteht dagegen ohne fremdes Zutun.

Verzerrung (Bias): Ein Modell kann einseitige Antworten geben, weil seine Trainingsdaten einseitig waren. Das ist ein anderes Problem als frei erfundene Fakten.

Was das für Ihr Unternehmen bedeutet

Halluzinationen sind der wichtigste Grund, warum KI-Ausgaben nicht ungeprüft nach außen gehen sollten. Diese Maßnahmen verringern das Risiko:

Mit Unterlagen arbeiten: Das Modell bekommt Ihre Dokumente mit und soll nur daraus antworten, siehe Retrieval Augmented Generation.
Unsicherheit erlauben: Anthropic empfiehlt, dem Modell ausdrücklich zu erlauben, „Ich weiß es nicht“ zu sagen.
Quellen verlangen: Jede Aussage soll mit einer Textstelle belegt werden. Was sich nicht belegen lässt, fliegt raus.
Prüfen lassen: Wichtige Ausgaben gehen vor dem Versand an einen Menschen, siehe Human in the Loop.

Wie wir Chatbots so aufbauen, dass sie bei Ihrem Wissen bleiben, zeigen wir auf der Seite zu KI-Chatbots.

Grenzen dessen, was man sicher weiß

Wie häufig Modelle halluzinieren, lässt sich nicht mit einer Zahl beantworten. Es hängt stark vom Modell, von der Aufgabe und von der Fragestellung ab. Werte aus Vergleichstests gelten nur für deren Aufgaben.

Ob sich Halluzinationen grundsätzlich beseitigen lassen, ist in der Forschung umstritten. Neuere Modelle halluzinieren bei vielen Aufgaben seltener. Ein Restrisiko bleibt aber, solange ein Modell Antworten aus Wahrscheinlichkeiten erzeugt.

Häufig gestellte Fragen

Kann man Halluzinationen ganz verhindern?

Nach heutigem Stand nicht. Man kann sie deutlich verringern, etwa indem das Modell nur mit mitgelieferten Unterlagen arbeitet und Quellen angibt. Anthropic schreibt, dass solche Techniken Halluzinationen deutlich reduzieren, aber nicht vollständig beseitigen. Wichtige Angaben sollten Sie immer prüfen.

Woran erkenne ich eine Halluzination?

Oft gar nicht am Text selbst, weil er flüssig und sicher klingt. Warnzeichen sind sehr genaue Zahlen ohne Quelle, Verweise auf Studien, Urteile oder Personen, die Sie nicht finden, und Details zu sehr speziellen Themen. Im Zweifel prüfen Sie die Aussage an einer unabhängigen Quelle.

Warum gibt die KI nicht einfach zu, dass sie etwas nicht weiß?

Forschende von OpenAI erklären das damit, dass Training und Bewertung von Sprachmodellen Raten belohnen statt das Eingeständnis von Unsicherheit. Hilfreich ist, dem Modell in der Anweisung ausdrücklich zu erlauben, mit „Ich weiß es nicht“ zu antworten.