Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Aussage eines KI-Systems, die sprachlich überzeugend klingt, sachlich aber falsch ist oder von keiner Quelle gedeckt wird. Das Sprachmodell erfindet dabei Fakten, Zahlen, Zitate oder Quellen und formuliert sie mit derselben Sicherheit wie korrekte Angaben. KI-Halluzinationen entstehen, weil ein Sprachmodell die wahrscheinlichste Fortsetzung eines Textes berechnet und die Wahrheit seiner Aussage dabei nicht prüft.

Kurzprofil des Begriffs

Der Begriff ist eine Metapher aus der Psychologie. Ein Mensch, der halluziniert, nimmt etwas wahr, das es nicht gibt. Ein Sprachmodell nimmt nichts wahr; es erzeugt Text, der wie eine Tatsache aussieht. Deshalb nutzen manche Fachleute das Wort Konfabulation, das in der Medizin das unbewusste Füllen von Erinnerungslücken beschreibt.

Warum erfinden Sprachmodelle Fakten?

Sprachmodelle erfinden Fakten, weil sie auf Wahrscheinlichkeit trainiert sind und für eine Wissenslücke keinen eingebauten Stoppmechanismus haben. Ein Large Language Model sagt Wort für Wort voraus, was am wahrscheinlichsten folgt. Eine erfundene Jahreszahl kann für das Modell genauso wahrscheinlich sein wie die richtige, solange sie in den Satz passt.

KI-Halluzinationen haben 4 Hauptursachen:

1. Wahrscheinlichkeit ersetzt Wissen: Das Modell speichert Muster aus seinen Trainingsdaten. Eine geprüfte Faktendatenbank besitzt es nicht, also gewinnt die plausibelste Antwort.
2. Seltene Fakten bleiben unscharf: Ein Geburtstag, ein Firmensitz oder ein Umsatz, der im Trainingsmaterial nur ein einziges Mal vorkommt, lässt sich aus Mustern nicht zuverlässig rekonstruieren. Genau dort setzt das Modell am häufigsten eine erfundene Angabe ein.
3. Die Bewertung belohnt Raten: OpenAI hat im September 2025 in der Studie „Why Language Models Hallucinate“ gezeigt, dass gängige Benchmarks nur richtige Antworten zählen. Eine geratene Antwort hat eine Trefferchance, ein „Ich weiß es nicht“ bringt null Punkte. Modelle lernen dadurch, lieber zu raten.
4. Fehler setzen sich fort: In langen Antworten baut jeder neue Satz auf den vorherigen auf. Ein früh erfundenes Detail zieht weitere erfundene Details nach sich, die logisch dazu passen.

Wie stark die Bewertung wirkt, belegen die Zahlen aus derselben OpenAI-Studie. Im Test SimpleQA beantwortete das ältere Modell o4-mini 24 Prozent der Fragen richtig und 75 Prozent falsch, weil es fast nie passte. Das neuere gpt-5-thinking-mini enthielt sich bei 52 Prozent der Fragen, traf 22 Prozent und lag nur bei 26 Prozent daneben. Die Trefferquote ist fast gleich, die Fehlerquote sinkt auf ein Drittel.

Welche Arten von KI-Halluzinationen gibt es?

Es gibt 4 Arten von KI-Halluzinationen: Erfundene Fakten, erfundene Quellen, Widersprüche zur Vorlage und verwechselte Entitäten. Die Forschung unterscheidet dabei grob zwischen Fehlern gegenüber der Welt (Faktentreue) und Fehlern gegenüber einer mitgelieferten Vorlage (Vorlagentreue).

Für Unternehmen sind die erste und die vierte Art die gefährlichsten. Eine erfundene Quelle fällt bei der Prüfung meist auf. Ein falscher Preis oder eine verwechselte Entität wirkt dagegen glaubwürdig und bleibt oft unbemerkt, bis ein Kunde danach fragt.

Was ist Semantic Drift und warum gewinnt das Plausible?

Semantic Drift bezeichnet das schrittweise Abgleiten der Bedeutung, wenn ein Sprachmodell Inhalte zusammenfasst, umformuliert oder über mehrere Schritte weiterverarbeitet. Jeder einzelne Schritt wählt eine Formulierung, die gut klingt und nah am Original liegt. In der Summe entfernt sich die Aussage vom Ausgangstext, bis sie etwas anderes behauptet.

Das Modell zieht das Plausible dem Korrekten vor, weil es genau darauf optimiert ist. Plausibel heißt für ein Sprachmodell: Die Formulierung kommt in ähnlichen Texten häufig vor. Korrekt heißt: Die Aussage stimmt mit der Welt überein. Nur das Erste kann das Modell aus seinen Trainingsdaten messen. 3 Muster treten dabei immer wieder auf:

• Verneinungen verschwinden: Aus „erstellt keine gerichtsfesten Gutachten“ wird beim Verdichten „erstellt gerichtsfeste Gutachten“, weil die bejahte Form im Sprachgebrauch häufiger ist.
• Seltenes wird zum Üblichen geglättet: Eine ungewöhnliche Zahl, etwa 11 Monate Vertragslaufzeit, rutscht zur branchenüblichen 12, weil diese Zahl in den Trainingsdaten dominiert.
• Widersprüche werden aufgelöst: Findet das Modell auf zwei Seiten zwei verschiedene Angaben, wählt es die gängigere oder mischt beide zu einer dritten.

Der dritte Punkt ist der Grund, warum Faktenkonsistenz für die KI-Sichtbarkeit so viel Gewicht hat. Nennt eine Website auf der Startseite 15 Jahre Erfahrung, im Unternehmensprofil 12 und im Branchenverzeichnis 10, entscheidet das Modell selbst, welche Zahl gilt. Nennen alle Quellen denselben Wert, gibt es keine Lücke, die das Modell mit Plausiblem füllen müsste. Deshalb gilt bei taismo für jede Website die Regel: Eine Antwort pro Fakt, sitewide.

Wie schützt man die eigene Marke vor falschen KI-Aussagen?

Die eigene Marke schützt du vor falschen KI-Aussagen, indem du dem Modell für jede wichtige Frage eine eindeutige, widerspruchsfreie und leicht abrufbare Antwort lieferst. Wie ernst das Thema ist, zeigt eine Entscheidung aus Kanada: Im Februar 2024 musste Air Canada einem Kunden eine Erstattung zahlen, die der Chatbot auf der eigenen Website mit einer erfundenen Regel für Trauerfall-Tarife zugesagt hatte. Das Unternehmen haftete für die Aussage seiner KI.

5 Maßnahmen senken das Risiko am stärksten:

1. Fakten vereinheitlichen: Preise, Zeiträume, Mitarbeiterzahl, Standorte und Gründungsjahr stehen auf jeder Seite und in jedem Profil gleich. Jede Abweichung ist eine Einladung zum Raten.
2. Die Entität eindeutig machen: Strukturierte Daten verbinden Firma, Personen und Profile per sameAs zu einem Knoten im Knowledge Graph. Gibt es Namensvettern, grenzt eine disambiguatingDescription die richtige Person ab.
3. Zitierfähige Antwortseiten bauen: Eine Grounding Page beantwortet die Kernfragen zu deinem Unternehmen in klaren Sätzen mit Zahl und Datum. Systeme mit Retrieval-Augmented Generation holen sich genau solche Passagen zur Antwortzeit.
4. Drittquellen angleichen: Branchenbücher, Bewertungsportale und Presseartikel fließen als Brand Mentions in das Bild ein, das ein Modell von dir hat. Veraltete Beschreibungen dort überstimmen im Zweifel die eigene Website.
5. KI-Antworten regelmäßig messen: Stelle ChatGPT, Gemini, Perplexity und Google AI Mode dieselben Fragen zu deiner Marke und vergleiche die Antworten. Wie so eine Messung aufgebaut ist, beschreibt der Ratgeber zum Messen der KI-Sichtbarkeit.

Wo die falschen Aussagen über dein Unternehmen herkommen, lässt sich mit einem GEO-Audit eingrenzen. Wir prüfen dabei, welche Quellen die Modelle zitieren, an welchen Stellen sich die eigenen Angaben widersprechen und welche Profile noch einen alten Stand verbreiten. Wichtig für die Erwartung: KI-Systeme übernehmen korrigierte Angaben erst nach dem nächsten Abruf oder Training. Eine behobene Quelle wirkt deshalb mit Verzögerung.

Häufige Fragen zu KI-Halluzinationen

Lassen sich KI-Halluzinationen ganz vermeiden?
KI-Halluzinationen lassen sich verringern, aber nach heutigem Stand nicht vollständig ausschließen. Auch OpenAI hält fest, dass die Genauigkeit eines Sprachmodells nie 100 Prozent erreicht, weil manche Fragen aus den verfügbaren Informationen schlicht nicht beantwortbar sind.

Halluziniert ChatGPT mit Websuche seltener?
ChatGPT halluziniert mit aktivierter Websuche bei Faktenfragen meist seltener, weil es seine Antwort auf abgerufene Seiten stützt. Das Risiko verschiebt sich dann auf die Qualität dieser Seiten: Widersprechen sie sich oder sind sie veraltet, übernimmt das Modell den Fehler.

Woran erkennst du eine KI-Halluzination?
Eine KI-Halluzination erkennst du am zuverlässigsten, wenn du konkrete Angaben wie Zahlen, Namen, Zitate und Quellen gegen die Originalquelle prüfst. Verdächtig sind Quellenangaben ohne Link, sehr runde Zahlen und Details, die in keiner zweiten Quelle auftauchen.