Was bedeutet Halluzination bei KI?

Halluzination bezeichnet bei KI-Systemen eine Antwort, die sicher und korrekt klingt, aber nachweislich falsch ist. Das System „erfindet“ Fakten, Zahlen, Quellen oder Zusammenhänge. Es tut das ohne böse Absicht, aber mit überzeugender Selbstsicherheit. Der Begriff ist aus der Medizin entlehnt: Die KI nimmt etwas wahr, das nicht existiert.

Warum ist das wichtig?

Weil Sprachmodelle in den Alltag eingezogen sind. Mit ihnen wächst das Risiko, dass falsche Informationen als Wahrheit durchgehen. Eine halluzinierte Gesetzeslage oder eine falsche Frist kann echte Folgen haben. Wer das Phänomen kennt, behandelt KI-Antworten wie eine freundliche, aber unzuverlässige Auskunft: freundlich anhören, kritisch prüfen.

Einfaches Beispiel

Du fragst ein Sprachmodell nach der Kündigungsfrist für deinen Stromvertrag. Die Antwort nennt präzise „vier Wochen zum Monatsende“. Das klingt kompetent, ist aber in deinem Fall falsch, weil dein Vertrag eine andere Regelung hat. Das Modell hat keine böse Absicht. Es hat nur eine plausible Antwort erzeugt, ohne deinen Vertrag zu kennen. Die richtige Frist steht in deinen Vertragsunterlagen oder im Online-Portal des Anbieters. Dort schlägst du sie nach.

Darauf solltest du achten

• Prüfe Fakten immer im Original: Gesetze, Fristen, Preise und Namen in der Primärquelle nachschlagen. Nie nur der KI glauben.
• Frage nach Quellen: Bitte um Quellenangaben. Modelle liefern sie zunehmend. Aber auch Quellen können erfunden sein, also einzeln prüfen.
• Kennzeichen von Halluzinationen: Verdächtig präzise Zahlen, erfundene Studiendetails und „das steht in § 12“-Aussagen ohne Nachweis.
• Je wichtiger die Entscheidung, desto gründlicher die Prüfung: Bei Rechts-, Finanz- und Gesundheitsthemen ist eine KI-Antwort ein Einstieg, nie eine Grundlage.

Warum das passiert

Ein Sprachmodell ist kein Wissensarchiv. Es berechnet Wort für Wort, welches nächste Wort am wahrscheinlichsten passt. Es schreibt plausibel weiter, ohne zu wissen, ob der Inhalt stimmt. Wenn die richtige Antwort in den Trainingsdaten fehlt, erfindet das Modell eine plausible Alternative. Genau das nennt man Halluzination. Der Begriff stammt aus der Medizin: Die KI nimmt etwas wahr, das nicht existiert. Der entscheidende Punkt: Das Modell lügt nicht im menschlichen Sinn. Es hat keine Absicht und kein Wissen darüber, was wahr ist. Es erzeugt nur den Text, der zur Frage passt. Deshalb klingt die Antwort so selbstbewusst. Deshalb ist Nachfragen mit derselben Frage oft wirkungslos: Eine zweite plausible Antwort entsteht genauso schnell wie die erste.

Wie oft das passiert

Die Fehlerquote ist messbar, und sie bleibt hoch. In einem Audit von NewsGuard lieferten führende Chatbots bei kontroversen Themen in 35 Prozent der Fälle falsche Informationen, ChatGPT in 40 Prozent. In einem Verbrauchertest der Stiftung Warentest beantwortete ChatGPT 65 Prozent von 40 Fragen aus Geld, Recht und Gesundheit richtig, der beste Anbieter kam auf 72 Prozent. Und die Erfahrung der Nutzer bestätigt das Bild: 42 Prozent der KI-Suchnutzer haben schon einmal falsche oder erfundene Informationen bekommen. Nur 57 Prozent prüfen die Antworten überhaupt. Das heißt: Viele verlassen sich auf Antworten, die in einem beachtlichen Teil der Fälle Fehler enthalten. Die Zahlen sind kein Grund zur Panik, aber ein Grund zum Prüfen.

So prüfst du Antworten

Eine kleine Routine schützt vor den meisten Halluzinationen. Erstens: Frag nach Quellen. Modelle liefern sie zunehmend, aber auch Quellen können erfunden sein. Prüfe jede einzeln. Zweitens: Schlag Zahlen, Fristen und Namen im Original nach. Ein Gesetzestext, eine Behördenwebsite oder dein Vertrag sind verlässlicher als jede Zusammenfassung. Drittens: Frag zwei Modelle dieselbe Frage. Weichen die Antworten voneinander ab, ist Vorsicht geboten. Viertens: Verdächtig präzise Angaben brauchen besonders viel Aufmerksamkeit. Eine genaue Paragrafenangabe ohne Nachweis ist ein klassisches Kennzeichen. Bei Geld, Recht und Gesundheit gilt die Regel: Die KI-Antwort ist ein Einstieg, nie die Grundlage.

Was das für dich bedeutet

Der Gesetzgeber hilft dir beim Prüfen. Seit dem 2. August 2026 gelten die Transparenzregeln des europäischen AI Act. Chatbots müssen sich als KI zu erkennen geben, KI-generierte Bilder und Videos müssen gekennzeichnet werden. Das schützt vor Täuschung, ersetzt aber nicht die eigene Prüfung. Nutze das Wissen im Alltag: Bei Verträgen, Fristen und Rechnungen fragst du die KI höchstens nach einer Erklärung, die Entscheidung triffst du mit dem Original. Die positiven Befunde gibt es dazu: In einem Test der Stiftung Warentest lieferte ChatGPT in allen fünf Fällen korrekte Verdachtsdiagnosen. Sprachmodelle sind also weder Wunderwerke noch Scharlatane. Sie sind ein schneller, höflicher Gesprächspartner mit Lücken. Wer das weiß, holt das Beste heraus und vermeidet den teuersten Fehler: blindes Vertrauen.

Ausführlich im Magazin

Wie du KI-Ergebnisse im Alltag richtig einordnest, erkläre ich im Artikel „ChatGPT im Alltag: Zehn praktische Anwendungen ohne Technikstress“.

Zum Nachschlagen

• Was ist ein KI-Sprachmodell?
• Checkliste: Ergebnisse von ChatGPT prüfen