KI-Halluzination, im AI-Kontext.
Eine KI-Halluzination ist eine erfundene Angabe, die ein Sprachmodell sprachlich sauber und selbstsicher formuliert, obwohl sie sachlich falsch ist.
Eine Halluzination ist eine Aussage eines Sprachmodells, die flüssig und selbstsicher klingt, sachlich aber falsch oder frei erfunden ist. Ursache ist die Funktionsweise selbst: das Modell wählt die wahrscheinlichste Formulierung, nicht die belegte. Typische Formen sind erfundene Paragrafen, falsche Ansprechpartner, nicht existierende Quellen und Zahlen, die nirgends stehen. Halluzinationen lassen sich nicht abschalten, aber stark eindämmen: Antworten an eigene Quellen binden, Belegpflicht im System-Prompt verankern, unsichere Fälle an einen Menschen übergeben und Stichproben protokollieren. Je heikler das Thema, desto enger die Kontrolle. Bei Recht, Preisen und Medizin gehört die Freigabe zwingend zu einem Menschen.
Beispiele aus dem Mittelstand
- Ein Kundenchatbot nennt eine Rabattstaffel, die es nie gab, weil er sie plausibel aus dem Umfeld weiterschreibt.
- Ein Vertriebsteam übernimmt eine erfundene Normbezeichnung in ein Angebot, weil sie im Entwurf korrekt aussah.
Folge-Fragen
Warum klingt eine falsche Antwort so überzeugend?
Das Modell optimiert auf sprachliche Wahrscheinlichkeit, nicht auf Wahrheit. Ein gut formulierter Satz ist deshalb kein Hinweis auf Richtigkeit.
Hilft RAG gegen Halluzinationen?
Es reduziert sie deutlich, weil das Modell aus mitgelieferten Quellen antwortet statt aus dem Gedächtnis. Ganz verschwinden sie damit nicht, gerade wenn die Quelle die Frage nicht abdeckt.
Wie erkenne ich Halluzinationen im Betrieb?
Stichproben durch Fachleute, Pflicht zur Quellenangabe und ein einfacher Melde-Button für Nutzer. Ohne Protokoll merkt niemand, wie hoch die Fehlerquote wirklich ist.
Wer haftet für eine falsche KI-Auskunft?
Nach außen tritt das Unternehmen auf, nicht das Werkzeug. Deshalb gehören Freigabewege, Protokolle und eine anwaltlich geprüfte Nutzungsklausel zur Einführung.
KI-Halluzination in der Praxis.
Wo dieser Begriff in deinem Geschäft konkret wird, beginnt die Arbeit. Wir nennen klar, ob die Idee in unser Studio passt.
KI-ChatbotWeiter in unserem Wissens-Tree:
KI-Chatbot für Dienstleister ohne Tech-Team →