KI-Halluzination (LLM-Halluzination)
Kurze Definition
Eine KI-Halluzination ist eine Antwort eines Sprachmodells, die flüssig und selbstbewusst klingt, aber falsch, erfunden oder nicht durch ihre Quellen unterstützt ist. Im Kundenservice zeigt sie sich typischerweise als falscher Preis, falsche Richtlinie oder Verzögerung.
Auf dieser Seite
Warum Sprachmodelle halluzinieren
Ein Sprachmodell generiert die wahrscheinlichste Fortsetzung eines Textes; es hat kein eingebautes Verständnis dafür, ob ein Satz wahr ist. Wenn die richtigen Informationen in seinen Trainingsdaten oder in den gegebenen Passagen fehlen, produziert es dennoch etwas, das wie eine Antwort aussieht. Forschungen aus 2025 (Kalai und Kollegen) argumentieren, dass Training und Bewertung dies verschärfen, indem sie eine selbstbewusste Vermutung über ein ehrliches „Ich weiß es nicht“ belohnen.
In der Literatur werden zwei Arten unterschieden. Intrinsische Halluzinationen widersprechen der Quelle, die das Modell erhalten hat – es missinterpretiert Ihre Rückgabepolitik. Extrinsische Halluzinationen fügen Ansprüche hinzu, die von keiner Quelle unterstützt werden – es erfindet eine 60-tägige Garantie, die Sie nie angeboten haben.
Was es im Kundenservice kostet
Eine Halluzination in einem Support-Chat ist kein abstrakter Fehler. Ein Kunde, dem gesagt wird, dass Rücksendungen kostenlos sind, dass ein Produkt wasserdicht ist oder dass ein Paket morgen ankommt, wird danach handeln und könnte das Unternehmen dafür zur Verantwortung ziehen. Gerichte und Verbraucherbehörden betrachten in der Regel den Chatbot eines Unternehmens als Sprachrohr des Unternehmens.
Das Risiko ist am höchsten bei Verpflichtungen: Preise, Lagerbestände, Liefertermine, Garantien, Rückerstattungen, rechtliche oder gesundheitliche Informationen. Das sind genau die Fragen, die Kunden am häufigsten stellen.
Wie man Halluzinationen reduziert
Keine Methode entfernt sie vollständig, aber mehrere reduzieren sie erheblich. Verankern Sie Antworten in Ihren eigenen Inhalten mit retrieval-augmented generation (RAG) und halten Sie diese Inhalte aktuell. Verwenden Sie Tools, um Live-Daten zu lesen – Lagerbestände, Bestellungen – anstatt das Modell sie abrufen zu lassen. Weisen Sie das Modell an, zu sagen, wenn die Quellen die Antwort nicht enthalten, und machen Sie das zu einem akzeptablen Ergebnis. Fordern Sie Beweise, bevor Sie Verpflichtungen eingehen. Übergeben Sie das Gespräch an eine Person, wenn die Frage sensibel ist oder der Agent unsicher ist.
Messen Sie dann: Überprüfen Sie Gespräche, insbesondere solche mit negativem Feedback, und fügen Sie die fehlenden Informationen zur Wissensdatenbank hinzu, anstatt den Prompt für jeden Fall zu patchen.
Wie AI SmartTalk damit umgeht
AI SmartTalk-Assistenten antworten aus den indizierten Inhalten und Katalogen des Unternehmens und lesen Produkte und Bestellungen über Tools, anstatt aus dem Gedächtnis des Modells. Ihre eingebauten Regeln verlangen abgerufene Beweise, bevor Verpflichtungen wie Garantien, Versand, Rückerstattungen oder Lagerbestände angegeben werden, und verbieten die Behauptung, dass eine Übergabe oder ein Ticket stattgefunden hat, es sei denn, das Tool war tatsächlich erfolgreich. Daumen-nach-unten-Feedback und Fragen, die der Assistent nicht beantworten konnte, werden dem Team angezeigt, damit die Wissensdatenbank vervollständigt werden kann.
Häufig gestellte Fragen
Können KI-Halluzinationen eliminiert werden?
Nicht mit aktuellen Sprachmodellen. Sie können selten und mit geringem Einfluss gemacht werden, indem Antworten in verifizierten Quellen verankert, Tools für Live-Daten verwendet, dem Assistenten erlaubt wird zu sagen, dass er es nicht weiß, und sensible Fälle an Menschen eskaliert werden.
Stoppt RAG Halluzinationen?
Es reduziert sie erheblich, aber das Modell kann dennoch einen Abschnitt falsch interpretieren oder antworten, wenn die abgerufenen Passagen nicht zum Thema gehören. Die Qualität der Abrufe und klare Anweisungen sind ebenso wichtig wie die Technik selbst.
Warum klingt die KI so sicher, wenn sie falsch ist?
Flüssigkeit und Genauigkeit werden durch denselben Mechanismus erzeugt: das Vorhersagen wahrscheinlichen Textes. Der Ton des Modells sagt nichts darüber aus, ob die Fakten richtig sind, weshalb Quellen und Überprüfungen erforderlich sind.
Wer ist verantwortlich, wenn ein Chatbot falsche Informationen gibt?
In der Praxis neigen Kunden und Regulierungsbehörden dazu, das Unternehmen, das den Chatbot betreibt, als verantwortlich für das, was er sagt, zu betrachten. Dies ist allgemeine Information, kein rechtlicher Rat; überprüfen Sie die Regeln, die in Ihrem Land gelten.