Warum KI überzeugend lügt: Halluzinationen erkennen und damit umgehen

Jeder, der länger mit Sprachmodellen arbeitet, kennt den Moment: Die KI nennt ein Gerichtsurteil mit Aktenzeichen, ein Zitat mit Quelle, eine DIN-Norm mit Nummer — flüssig, präzise, völlig überzeugend. Und komplett erfunden. Dieses Verhalten heißt Halluzination, und es ist kein Fehler, der demnächst „behoben" wird. Es folgt aus der Funktionsweise selbst. Wer im Betrieb mit KI arbeitet, muss es verstehen — nicht technisch im Detail, aber im Prinzip.

Warum Sprachmodelle erfinden

Ein Sprachmodell ist keine Datenbank, die Fakten nachschlägt. Es berechnet, welches Wort am wahrscheinlichsten als nächstes folgt — auf Basis von Mustern aus enormen Textmengen. Das erzeugt verblüffend gute Antworten, wo die Muster tragen. Wo sie nicht tragen, erzeugt es trotzdem eine Antwort: die wahrscheinlichste Wortfolge, die wie eine richtige Antwort aussieht.

Das Tückische: Für das Modell fühlen sich beide Fälle gleich an. Es gibt kein eingebautes Signal „hier weiß ich es nicht". Deshalb klingt die erfundene Antwort exakt so souverän wie die richtige — oft sogar souveräner, weil keine echte Unsicherheit die Formulierung bremst.

Die gefährlichste Antwort ist nicht die falsche. Es ist die falsche, die perfekt klingt.

Wo Halluzinationen am häufigsten auftreten

• Präzise Fakten: Aktenzeichen, Normnummern, Paragrafen, Telefonnummern, Preise, Termine. Je spezifischer die geforderte Angabe, desto höher die Erfindungsquote.
• Quellen und Zitate: Modelle erfinden Studien, Bücher und Artikel, die es nie gab — mit plausiblen Autoren und Jahreszahlen.
• Randgebiete: Je seltener ein Thema in den Trainingsdaten vorkam, desto dünner die Muster. Ihr Spezialgebiet kennt das Modell schlechter als Allgemeinwissen.
• Aktuelles: Alles nach dem Wissensstand des Modells wird notfalls extrapoliert — also geraten.
• Suggestivfragen: „Fasse die Studie XY zusammen" führt zur Zusammenfassung — auch wenn es die Studie nicht gibt. Das Modell widerspricht der Prämisse selten von selbst.

Die Handgriffe für den Alltag

• Die Zwei-Klassen-Regel: Trennen Sie KI-Ausgaben in „Formulierung" und „Fakten". Formulierungen (Tonfall, Struktur, Umformulierung) dürfen Sie übernehmen. Fakten (Zahlen, Namen, Paragrafen, Zusagen) werden grundsätzlich gegen eine verlässliche Quelle geprüft, bevor sie den Betrieb verlassen.
• Quellen verlangen — und anklicken: Bitten Sie um Quellenangaben und prüfen Sie stichprobenartig, ob es sie gibt. Eine erfundene Quelle entlarvt die ganze Antwort.
• Gegenfrage stellen: „Bist du sicher? Woher stammt diese Angabe?" bringt Modelle oft dazu, Unsicherheit einzuräumen oder sich zu korrigieren. Kommt zweimal eine andere Antwort, trauen Sie keiner.
• Eigene Daten anbinden statt raten lassen: Die wirksamste Gegenmaßnahme ist, dem Modell die richtigen Unterlagen mitzugeben — Ihre Dokumente, Ihre Preislisten, Ihre Verträge — statt es aus dem Gedächtnis antworten zu lassen. Mit Quellenangabe je Antwort wird nachvollziehbar, worauf sich eine Aussage stützt. Genau so bauen wir KI-Assistenz auf eigenen Daten.
• Freigabe-Prinzip bei Außenwirkung: Nichts, was die KI formuliert hat, geht ungelesen an Kunden, Behörden oder Vertragspartner. Die KI macht den Entwurf, ein Mensch gibt frei.

Was das für Ihren Betrieb bedeutet

Halluzinationen sind kein Grund, KI zu meiden — sie sind ein Grund, sie richtig einzusetzen. Ein Werkzeug, das brillant formuliert, aber Fakten erfinden kann, ist im Betrieb hervorragend aufgehoben, solange jeder im Team die Grenze kennt. Genau diese Grenze zu vermitteln ist übrigens der Kern der Anwender-Stufe in der gesetzlich geforderten KI-Schulung — das Gesetz verlangt hier nichts Weltfremdes, sondern exakt das, was ohnehin vernünftig ist.