AI hallucination (LLM hallucination)
Hurtig definition
En AI-hallucination er et svar fra en sprogmodel, der lyder flydende og selvsikker, men som er falsk, opfundet eller ikke understøttet af dens kilder. I kundeservice viser det typisk sig som en forkert pris, politik eller forsinkelse.
På denne side
Hvorfor sprogmodeller hallucinerer
En sprogmodel genererer den mest sandsynlige fortsættelse af en tekst; den har ingen indbygget opfattelse af, om en sætning er sand. Når de rigtige oplysninger mangler fra dens træningsdata eller fra de passager, den fik, producerer den stadig noget, der ligner et svar. Forskning fra 2025 (Kalai og kolleger) argumenterer for, at træning og evaluering forværrer dette ved at belønne et selvsikkert gæt frem for et ærligt "jeg ved det ikke".
Litteraturen skelner mellem to slags. Intrinsiske hallucinationer modsiger den kilde, modellen fik — den misforstår din returpolitik. Ekstrinsiske hallucinationer tilføjer påstande, som ingen kilde understøtter — den opfinder en 60-dages garanti, som du aldrig har tilbudt.
Hvad det koster i kundeservice
En hallucination i en supportchat er ikke en abstrakt fejl. En kunde, der får at vide, at returneringer er gratis, at et produkt er vandtæt, eller at en pakke vil ankomme i morgen, vil handle på det og kan holde virksomheden ansvarlig. Domstole og forbrugermyndigheder betragter generelt en virksomheds chatbot som taler for virksomheden.
Risikoen er størst ved forpligtelser: priser, lager, leveringsdatoer, garantier, refusioner, juridiske eller sundhedsoplysninger. Det er præcis de spørgsmål, kunderne stiller mest.
Hvordan man reducerer hallucinationer
Ingen metode fjerner dem helt, men flere reducerer dem markant. Forankr svar i dit eget indhold med retrieval-augmented generation (RAG), og hold det indhold aktuelt. Brug værktøjer til at læse live data — lager, ordrer — i stedet for at lade modellen huske det. Instrukt modellen til at sige, når kilderne ikke indeholder svaret, og gør det til et acceptabelt udfald. Kræv bevis før enhver forpligtelse. Overdrag samtalen til en person, når spørgsmålet er følsomt, eller agenten er usikker.
Mål derefter: gennemgå samtaler, især dem med negativ feedback, og tilføj de manglende oplysninger til vidensbasen i stedet for at lappe prompten for hver sag.
Hvordan AI SmartTalk håndterer det
AI SmartTalk assistenter svarer ud fra virksomhedens indekserede indhold og katalog, og læser produkter og ordrer gennem værktøjer i stedet for fra modellens hukommelse. Deres indbyggede regler kræver hentede beviser før angivelse af forpligtelser som garantier, forsendelse, refusioner eller lager, og forbyder at påstå, at en overdragelse eller en billet fandt sted, medmindre værktøjet faktisk lykkedes. Negativ feedback og spørgsmål, som assistenten ikke kunne svare på, bliver præsenteret for teamet, så vidensbasen kan blive fuldendt.
Ofte stillede spørgsmål
Kan AI-hallucinationer elimineres?
Ikke med nuværende sprogmodeller. De kan gøres sjældne og med lav indvirkning ved at forankre svar i verificerede kilder, bruge værktøjer til live data, tillade assistenten at sige, at den ikke ved det, og eskalere følsomme sager til mennesker.
Stopper RAG hallucinationer?
Det reducerer dem meget, men modellen kan stadig misforstå en passage eller svare, når de hentede passager er off-topic. Kvaliteten af hentningen og klare instruktioner betyder lige så meget som teknikken selv.
Hvorfor lyder AI så sikker, når den tager fejl?
Flydendehed og nøjagtighed produceres af den samme mekanisme: at forudsige sandsynligt tekst. Modellens tone siger intet om, hvorvidt fakta er rigtige, hvilket er grunden til, at kilder og kontroller er nødvendige.
Hvem er ansvarlig, når en chatbot giver forkerte oplysninger?
I praksis har kunder og regulerende myndigheder tendens til at betragte den virksomhed, der driver chatbotten, som ansvarlig for, hvad den siger. Dette er generelle oplysninger, ikke juridisk rådgivning; tjek de regler, der gælder i dit land.