Was ist eineKI-Halluzination?
Sprachmodelle schreiben auch dann flüssig weiter, wenn ihnen das Wissen fehlt, und genau daraus entstehen erfundene Angaben.
Direkt zur Anfrage
Sprechen wir über Ihr Projekt.
Erst prüfen wir, ob das Vorhaben zu Ihrem Geschäftsmodell passt. Dann folgt ein Vorschlag mit Phasen und Aufwand.
KI-Einsatz im Team besprechen oder anrufen: +49 151 1576 5566Eine Halluzination ist eine Angabe, die eine KI frei erfindet und so formuliert, als wäre sie belegt. Weil ein Sprachmodell nur kennt, was in seinen Trainingsdaten stand, füllt es Lücken im ungünstigen Fall mit einer Antwort, die plausibel klingt und trotzdem falsch ist.
- Laut einer Bitkom-Umfrage vom November 2025 haben 42 Prozent derer, die KI für die Suche nutzen, schon falsche oder erfundene Informationen bekommen.
- Das Tückische daran ist, dass eine erfundene Angabe genauso sicher klingt wie eine richtige.
- Nachschlagen in eigenen Unterlagen per RAG hilft, ganz verhindern lässt sich das Problem damit aber nicht.
Warum halluziniert eine KI, und was heißt das für Ihre Texte?
Ein großes Sprachmodell schreibt aus dem, was es im Training gesehen hat. Fragt man es nach der Stückliste vom letzten Quartal oder nach einer Zahl, die nirgends stand, kann es passen oder, was leider öfter vorkommt, etwas zusammenreimen, das sich genauso sicher liest wie eine richtige Antwort. Wie oft das passiert, hängt auch am Modell: OpenAI schreibt in der Modellkarte zu seinen offenen gpt-oss-Modellen selbst, dass kleinere Modelle weniger Weltwissen haben und eher dazu neigen, Fakten zu erfinden (bemerkenswert deutlich für einen Hersteller, finden wir).
Wie weit Sie Halluzinationen mit RAG eindämmen können
Mit RAG schlägt die KI vor der Antwort in Ihren eigenen Unterlagen nach und nennt die Fundstelle, was erfundene Angaben seltener macht, aber eben nicht verhindert. In einer vorab registrierten Stanford-Studie von 2024 lagen Rechercheprogramme für Juristen, deren Anbieter mit RAG geworben hatten, je nach Werkzeug in einem Sechstel bis einem Drittel der Testanfragen daneben. Eine Antwort mit Quellenangabe ist also nachprüfbar, aber noch lange nicht richtig.
So schützen Sie Ihren Betrieb vor den Folgen einer Halluzination
Die wirksamste Regel ist zugleich die schlichteste: Was nach außen geht, also eine Zahl, eine Zusage oder ein Preis, sieht vorher jemand aus Ihrem Team an. Dazu gehört, dass alle Beteiligten wissen, wo die KI typischerweise danebenliegt, und genau das verlangt auch Artikel 4 der KI-Verordnung, der Betriebe, die KI einsetzen, seit dem 2. Februar 2025 zu Maßnahmen für die KI-Kompetenz ihrer Beschäftigten verpflichtet. Übrigens trifft es Sie auch ohne eigene KI, denn ob ein KI-System über Ihr Unternehmen korrekt, verkürzt, falsch oder erfunden berichtet, lässt sich prüfen, indem man jede Aussage mit Ihren Unterlagen abgleicht.
Häufige Fragen
Kann man sich auf halluzinationsfreie Werkzeuge verlassen?
Wir würden es nicht tun. In der Stanford-Studie hatten manche Anbieter genau damit geworben, und ihre Werkzeuge lagen trotzdem bei einem Teil der Testanfragen daneben.
Muss mein Team über Halluzinationen geschult werden?
Ja, und die EU-Kommission sieht das genauso: Sie nennt erfundene Inhalte ausdrücklich als Risiko, über das Beschäftigte informiert werden sollen, wenn sie etwa ChatGPT für Werbetexte oder Übersetzungen nutzen. Ein Zertifikat verlangt Artikel 4 dafür übrigens nicht.
Halluzinieren lokale Modelle häufiger?
Wenn sie klein sind, eher ja, denn kleinere Modelle neigen laut OpenAI stärker dazu, und lokal betriebene sind meist kleiner als die großen Cloud-Modelle.
Begriffe, die Sie im selben Zusammenhang kennen sollten
RAG (Retrieval Augmented Generation) · LLM (Large Language Model) · Lokale KI · KI-Kompetenz (Artikel 4) · KI-Assistent · Zum KI-Glossar A-Z
Eine KI, die sich irren kann, ist kein Grund, auf sie zu verzichten, wohl aber einer, ihre Antworten vor dem Versand anzusehen.