AI-hallucinatie (LLM-hallucinatie)

Een taalmodel genereert de meest waarschijnlijke voortzetting van een tekst; het heeft geen ingebouwde notie of een zin waar is. Wanneer de juiste informatie ontbreekt in de trainingsdata of in de passages die het heeft gekregen, produceert het nog steeds iets dat lijkt op een antwoord. Onderzoek uit 2025 (Kalai en collega's) stelt dat training en evaluatie dit verergeren door een zelfverzekerde gok te belonen boven een eerlijke “ik weet het niet”.

De literatuur maakt onderscheid tussen twee soorten. Intrinsieke hallucinaties tegenspreken de bron die het model is gegeven — het leest uw retourbeleid verkeerd. Extrinsieke hallucinaties voegen claims toe die door geen enkele bron worden ondersteund — het verzint een 60-dagen garantie die u nooit heeft aangeboden.

Een hallucinatie in een ondersteuningschat is geen abstracte fout. Een klant die te horen krijgt dat retouren gratis zijn, dat een product waterdicht is of dat een pakket morgen aankomt, zal daarop handelen en kan het bedrijf hierop aanspreken. Rechters en consumentenautoriteiten beschouwen doorgaans de chatbot van een bedrijf als spreekbuis voor het bedrijf.

Het risico is het grootst bij verplichtingen: prijzen, voorraad, leverdata, garanties, terugbetalingen, juridische of gezondheidsinformatie. Dit zijn precies de vragen die klanten het vaakst stellen.

Geen enkele methode verwijdert ze volledig, maar verschillende verminderen ze aanzienlijk. Baseer antwoorden op uw eigen inhoud met retrieval-augmented generation (RAG) en houd die inhoud actueel. Gebruik tools om live data te lezen — voorraad, bestellingen — in plaats van het model het te laten herinneren. Instrueer het model om te zeggen wanneer de bronnen het antwoord niet bevatten, en maak dat een acceptabele uitkomst. Vereis bewijs voordat enige verplichting wordt aangegaan. Geef het gesprek aan een persoon wanneer de vraag gevoelig is of de agent onzeker is.

Meet daarna: beoordeel gesprekken, vooral die met negatieve feedback, en voeg de ontbrekende informatie toe aan de kennisdatabase in plaats van de prompt voor elk geval te patchen.

AI SmartTalk-assistenten antwoorden vanuit de geïndexeerde inhoud en catalogus van het bedrijf, en lezen producten en bestellingen via tools in plaats van uit het geheugen van het model. Hun ingebouwde regels vereisen opgehaalde bewijs voordat verplichtingen zoals garanties, verzending, terugbetalingen of voorraad worden vermeld, en verbieden te claimen dat een overdracht of een ticket heeft plaatsgevonden, tenzij de tool daadwerkelijk succesvol was. Negatieve feedback en vragen die de assistent niet kon beantwoorden, worden aan het team gepresenteerd zodat de kennisdatabase kan worden aangevuld.