AI hallusinasjon (LLM hallusinasjon)
Rask definisjon
En AI hallusinasjon er et svar fra en språkmodell som høres flytende og selvsikker ut, men som er falsk, oppfunnet eller ikke støttet av kildene. I kundeservice viser det seg vanligvis som en feil pris, policy eller forsinkelse.
På denne siden
Hvorfor språkmodeller hallusinerer
En språkmodell genererer den mest sannsynlige fortsettelsen av en tekst; den har ingen innebygd oppfatning av om en setning er sann. Når riktig informasjon mangler fra treningsdataene eller fra avsnittene den fikk, produserer den fortsatt noe som ser ut som et svar. Forskning fra 2025 (Kalai og kolleger) argumenterer for at trening og evaluering gjør dette verre ved å belønne et selvsikkert gjetning fremfor en ærlig "jeg vet ikke".
Litteraturen skiller mellom to typer. Intrinsiske hallusinasjoner motsier kilden modellen fikk — den misforstår returpolicyen din. Ekstrinsiske hallusinasjoner legger til påstander som ingen kilde støtter — den oppfinner en 60-dagers garanti som du aldri tilbød.
Hva det koster i kundeservice
En hallusinasjon i en supportchat er ikke en abstrakt feil. En kunde som får beskjed om at retur er gratis, at et produkt er vanntett eller at en pakke vil ankomme i morgen, vil handle på det, og kan holde virksomheten ansvarlig. Domstoler og forbrukermyndigheter behandler generelt en bedrifts chatbot som taler for selskapet.
Risikoen er størst ved forpliktelser: priser, lager, leveringsdatoer, garantier, refusjoner, juridisk eller helseinformasjon. Dette er akkurat de spørsmålene kundene stiller mest.
Hvordan redusere hallusinasjoner
Ingen metode fjerner dem helt, men flere reduserer dem kraftig. Grunn svarene i ditt eget innhold med retrieval-augmented generation (RAG), og hold det innholdet oppdatert. Bruk verktøy for å lese sanntidsdata — lager, bestillinger — i stedet for å la modellen huske det. Instruer modellen til å si når kildene ikke inneholder svaret, og gjør det til et akseptabelt utfall. Krev bevis før noen forpliktelse. Overlat samtalen til en person når spørsmålet er sensitivt eller agenten er usikker.
Mål deretter: gjennomgå samtaler, spesielt de med negativ tilbakemelding, og legg til den manglende informasjonen i kunnskapsbasen i stedet for å lappe prompten for hvert tilfelle.
Hvordan AI SmartTalk håndterer det
AI SmartTalk assistenter svarer fra virksomhetens indekserte innhold og katalog, og leser produkter og bestillinger gjennom verktøy i stedet for fra modellens minne. Deres innebygde regler krever hentet bevis før de uttaler forpliktelser som garantier, frakt, refusjoner eller lager, og forbyr å påstå at en overlevering eller en billett skjedde med mindre verktøyet faktisk lyktes. Tommel-ned tilbakemelding og spørsmål assistenten ikke kunne svare på, blir synliggjort for teamet slik at kunnskapsbasen kan fullføres.
Ofte stilte spørsmål
Kan AI hallusinasjoner elimineres?
Ikke med nåværende språkmodeller. De kan gjøres sjeldne og lavpåvirkende ved å forankre svar i verifiserte kilder, bruke verktøy for sanntidsdata, la assistenten si at den ikke vet, og eskalere sensitive saker til mennesker.
Stopper RAG hallusinasjoner?
Det reduserer dem mye, men modellen kan fortsatt misforstå et avsnitt eller svare feil når de hentede avsnittene er utenfor tema. Kvaliteten på henting og klare instruksjoner er like viktige som teknikken selv.
Hvorfor høres AI så sikker ut når den tar feil?
Flyt og nøyaktighet produseres av den samme mekanismen: å forutsi sannsynlig tekst. Modellens tone sier ingenting om hvorvidt fakta er riktige, derfor er kilder og kontroller nødvendige.
Hvem er ansvarlig når en chatbot gir feil informasjon?
I praksis har kunder og reguleringsmyndigheter en tendens til å behandle virksomheten som driver chatboten som ansvarlig for hva den sier. Dette er generell informasjon, ikke juridisk rådgivning; sjekk reglene som gjelder i ditt land.