Was bedeutet Halluzination bei KI?
Halluzination heißt: Ein KI-System behauptet selbstbewusst etwas Falsches. Warum das passiert und wie man sich davor schützt, kurz erklärt.
Halluzination bezeichnet bei KI-Systemen eine Antwort, die sicher und korrekt klingt, aber nachweislich falsch ist. Das System „erfindet“ Fakten, Zahlen, Quellen oder Zusammenhänge. Es tut das ohne böse Absicht, aber mit überzeugender Selbstsicherheit. Der Begriff ist aus der Medizin entlehnt: Die KI nimmt etwas wahr, das nicht existiert.
Warum ist das wichtig?
Weil Sprachmodelle in den Alltag eingezogen sind. Mit ihnen wächst das Risiko, dass falsche Informationen als Wahrheit durchgehen. Eine halluzinierte Gesetzeslage oder eine falsche Frist kann echte Folgen haben. Wer das Phänomen kennt, behandelt KI-Antworten wie eine freundliche, aber unzuverlässige Auskunft: freundlich anhören, kritisch prüfen.
Einfaches Beispiel
Du fragst ein Sprachmodell nach der Kündigungsfrist für deinen Stromvertrag. Die Antwort nennt präzise „vier Wochen zum Monatsende“. Das klingt kompetent, ist aber in deinem Fall falsch, weil dein Vertrag eine andere Regelung hat. Das Modell hat keine böse Absicht. Es hat nur eine plausible Antwort erzeugt, ohne deinen Vertrag zu kennen. Die richtige Frist steht in deinen Vertragsunterlagen oder im Online-Portal des Anbieters. Dort schlägst du sie nach.
Darauf solltest du achten
- Prüfe Fakten immer im Original: Gesetze, Fristen, Preise und Namen in der Primärquelle nachschlagen. Nie nur der KI glauben.
- Frage nach Quellen: Bitte um Quellenangaben. Modelle liefern sie zunehmend. Aber auch Quellen können erfunden sein, also einzeln prüfen.
- Kennzeichen von Halluzinationen: Verdächtig präzise Zahlen, erfundene Studiendetails und „das steht in § 12“-Aussagen ohne Nachweis.
- Je wichtiger die Entscheidung, desto gründlicher die Prüfung: Bei Rechts-, Finanz- und Gesundheitsthemen ist eine KI-Antwort ein Einstieg, nie eine Grundlage.
Ausführlich im Magazin
Wie du KI-Ergebnisse im Alltag richtig einordnest, erkläre ich im Artikel „ChatGPT im Alltag: Zehn praktische Anwendungen ohne Technikstress“.
Zum Nachschlagen
Quellen
- Bundesamt für Sicherheit in der Informationstechnik: KI-Risiken · BSI · 10. Januar 2026