Was sind KI-Halluzinationen — und wie verhindert man sie?

Ein Geschäftsführer lässt sich von einer Cloud-KI die Kündigungsregeln aus einem Rahmenvertrag zusammenfassen. Die Antwort kommt souverän formuliert, nennt eine Frist von drei Monaten und verweist auf „Paragraf 14″. Das Problem: Der Vertrag hat nur zwölf Paragrafen, und die Frist beträgt sechs Monate. Die KI hat nicht gelogen — sie hat vervollständigt, was plausibel klang. Aufgefallen ist es nur, weil ein Mitarbeiter nachgeschlagen hat.

Dieses Phänomen heißt Halluzination, und es ist das größte praktische Risiko beim KI-Einsatz im Unternehmen.

Warum KI erfindet, statt zu schweigen

Sprachmodelle funktionieren grundlegend anders als Datenbanken. Eine Datenbank gibt zurück, was gespeichert ist — oder nichts. Ein Sprachmodell berechnet, welche Wortfolge als Antwort am wahrscheinlichsten ist. Es ist darauf trainiert, flüssige, plausible Texte zu erzeugen. Ob eine Aussage wahr ist, kann es nicht überprüfen; es kennt nur sprachliche Wahrscheinlichkeit.

Fehlt dem Modell das nötige Wissen, entsteht deshalb nicht etwa eine Lücke — es entsteht eine gut klingende Erfindung: eine plausible Zahl, eine erfundene Quelle, ein nie existierender Paragraf. Und weil die Formulierung genauso souverän ausfällt wie bei korrekten Antworten, gibt es kein sprachliches Warnsignal. Genau das macht Halluzinationen tückisch: Falsches und Richtiges sehen identisch aus.

Wo es im Betrieb gefährlich wird

Für das Brainstorming oder einen Textentwurf ist eine Halluzination ärgerlich, aber verschmerzbar. Kritisch wird es bei allem, was nach außen geht oder Entscheidungen trägt: Preisauskünfte an Kunden, Aussagen zu Vertragsinhalten, technische Spezifikationen, rechtliche oder steuerliche Einschätzungen. Eine einzige erfundene Zusage im Kundenkontakt kann teurer werden als das gesamte KI-Projekt.

Wie man Halluzinationen in den Griff bekommt

Ganz verschwinden werden Halluzinationen nicht — sie sind eine Eigenschaft der Technologie, kein behebbarer Defekt. Aber sie lassen sich im Unternehmenseinsatz auf ein beherrschbares Maß drücken. Die wirksamsten Hebel:

• RAG statt freies Antworten: Die KI antwortet nicht aus ihrem Trainingsgedächtnis, sondern ausschließlich auf Basis der Textstellen, die das System zuvor aus Ihren geprüften Firmendokumenten herausgesucht hat. Das entzieht der Erfindung den Raum.
• Quellenpflicht: Jede Antwort verweist auf das Dokument und die Stelle, aus der sie stammt. Was keine Quelle hat, gilt nicht. Das macht jede Aussage in Sekunden nachprüfbar.
• Erlaubnis zum Nichtwissen: Das System wird ausdrücklich angewiesen, „dazu liegt keine Information vor“ zu antworten, statt zu raten. Das klingt trivial, ist aber einer der wirksamsten Einzelhebel.
• Saubere Datenbasis: Ein RAG-System ist nur so verlässlich wie die Dokumente dahinter. Schlecht eingelesene PDFs, zerrissene Tabellen und fehlerhafte Scans erzeugen eine subtile Variante des Problems — die KI zitiert dann korrekt aus falsch aufbereiteten Daten. Professionelles Daten-Parsing ist deshalb Halluzinations-Vorbeugung an der Wurzel.
• Mensch als letzte Instanz: Bei allem, was rechtlich bindend oder kundenwirksam ist, prüft ein Mensch vor Freigabe. Die KI liefert den Entwurf samt Quellen — die Verantwortung bleibt im Haus.

Die richtige Haltung

Wer versteht, dass Sprachmodelle plausibel statt wahr antworten, zieht die richtige Konsequenz: KI nicht als Orakel behandeln, sondern als sehr schnellen Assistenten mit Belegpflicht. Mit geprüfter Datenbasis, Quellenangaben und klaren Freigaberegeln wird aus einem unberechenbaren Risiko ein kalkulierbares Werkzeug — eines, dem auch die Skeptiker im Team nach kurzer Zeit vertrauen.