Ratgeber
Halluzinationen erkennen: wie Sie KI-Fehlern auf die Spur kommen
Künstliche Intelligenz wirkt oft erstaunlich kompetent. Sie antwortet flüssig, formuliert sauber und klingt sicher. Genau darin liegt eine Gefahr, die im Berufsalltag schnell teuer wird: die Halluzination. Damit ist gemeint, dass ein KI-Modell Fakten, Quellen oder Zahlen erfindet, die zwar plausibel klingen, aber schlicht falsch sind.
Was eine Halluzination ist und warum sie entsteht
Eine Halluzination ist eine Antwort, die selbstbewusst vorgetragen wird, aber nicht der Realität entspricht. Das Modell erfindet etwa einen Gerichtsentscheid, der nie gefällt wurde, nennt eine Studie samt Autor und Jahreszahl, die es nicht gibt, oder liefert eine Statistik, die niemand erhoben hat. Das Tückische ist, dass diese Erfindungen in Form und Tonfall von echten Informationen kaum zu unterscheiden sind.
Der Grund liegt in der Funktionsweise. Ein Sprachmodell weiß nichts im menschlichen Sinn. Es berechnet, welches Wort nach dem vorherigen am wahrscheinlichsten folgt. Es füllt Lücken mit dem, was statistisch gut passt, nicht mit dem, was nachweislich stimmt. Wenn zu einem Thema wenig belastbare Daten vorliegen, generiert das Modell trotzdem eine glatte Antwort, weil flüssiger Text sein eigentliches Ziel ist.
Woran Sie eine Halluzination erkennen
Das wichtigste Warnsignal sind erfundene Quellen. Wenn eine KI eine konkrete Quelle, einen Paragrafen, einen Buchtitel oder einen Link nennt, prüfen Sie ihn. Halluzinierte Verweise sehen echt aus, führen aber ins Leere oder existieren gar nicht. Ein Link, den Sie nicht öffnen können, oder eine Studie, die keine Suchmaschine kennt, ist ein deutliches Zeichen.
Auffällig sind außerdem zu glatte Zahlen. Wenn ein Modell runde Prozentwerte oder verdächtig genaue Angaben liefert, ohne eine nachvollziehbare Herkunft zu nennen, ist Vorsicht geboten. Ebenso verräterisch sind innere Widersprüche. Stellen Sie dieselbe Frage zweimal leicht anders, und Sie erhalten zwei unterschiedliche Antworten, dann hat das Modell geraten.
Praktische Gegenmittel im Arbeitsalltag
Fragen Sie nach. Bitten Sie das Modell ausdrücklich, seine Quellen zu nennen und anzugeben, wie sicher es sich ist. Eine ehrliche Antwort, dass es sich nicht sicher ist, ist wertvoller als eine erfundene Gewissheit. Verlangen Sie konkrete Belege und prüfen Sie diese selbst, statt sie blind zu übernehmen.
Bei wichtigen Themen gilt: gegenchecken. Gleichen Sie zentrale Aussagen mit einer zweiten, unabhängigen Quelle ab, etwa einer Behördenseite oder einem Fachbuch. Besonders sensibel sind rechtliche, medizinische und steuerliche Fragen. Hier dürfen Sie eine KI-Auskunft niemals ungeprüft als Grundlage für Entscheidungen nutzen. Je größer die Folgen eines Fehlers, desto gründlicher muss Ihre eigene Prüfung ausfallen.