AI hallutsioon (LLM hallutsioon)
Kiire määratlus
AI hallutsioon on vastus keelemudelist, mis kõlab sujuvalt ja enesekindlalt, kuid on vale, välja mõeldud või ei ole toetatud selle allikatest. Klienditeeninduses ilmneb see tavaliselt vale hinna, poliitika või viivitusena.
Sellel lehel
Miks keelemudelid hallutsioneerivad
Keelemudel genereerib kõige tõenäolisema teksti jätku; tal ei ole sisseehitatud arusaama, kas lause on tõene. Kui õige teave puudub tema koolitusandmetest või antud lõikudest, toodab ta siiski midagi, mis näeb välja nagu vastus. Uuringud aastast 2025 (Kalai ja kolleegid) väidavad, et koolitus ja hindamine muudavad selle halvemaks, premeerides enesekindlat oletust ausa "ma ei tea" asemel.
Kirjanduses eristatakse kahte tüüpi. Intrinsiivsed hallutsioonid on vastuolus mudelile antud allikaga — see tõlgendab teie tagastamispoliitikat valesti. Ekstrinsiivsed hallutsioonid lisavad väiteid, mida ükski allikas ei toeta — see leiutab 60-päevase garantii, mida te kunagi ei pakkunud.
Mida see klienditeeninduses maksab
Hallutsioon tugiteenuse vestluses ei ole abstraktne viga. Klient, kellele öeldakse, et tagastamine on tasuta, et toode on veekindel või et pakk jõuab homme, tegutseb selle põhjal ja võib ettevõtet selle eest vastutusele võtta. Kohus ja tarbijate asutused käsitlevad tavaliselt ettevõtte vestlusroboti sõnumeid ettevõtte esindusena.
Risk on kõige suurem lubaduste puhul: hinnad, laoseis, tarnekuupäevad, garantiid, tagasimaksed, õiguslik või tervise teave. Need on täpselt need küsimused, mida kliendid kõige rohkem küsivad.
Kuidas vähendada hallutsioone
Ükski meetod ei eemalda neid täielikult, kuid mitmed vähendavad neid järsult. Toetage vastuseid oma sisule, kasutades teabeotsinguga täiustatud genereerimist (RAG), ja hoidke see sisu ajakohasena. Kasutage tööriistu, et lugeda reaalajas andmeid — laoseis, tellimused — selle asemel, et lasta mudelil seda meelde jätta. Andke mudelile korraldus öelda, kui allikad ei sisalda vastust, ja tehke sellest vastuvõetav tulemus. Nõudke tõendeid enne igasuguseid lubadusi. Suunake vestlus inimesele, kui küsimus on tundlik või agent pole kindel.
Seejärel mõõtke: vaadake üle vestlused, eriti need, millel on negatiivne tagasiside, ja lisage puuduolev teave teadmistebaasi, mitte ärge parandage iga juhtumi jaoks küsimust.
Kuidas AI SmartTalk sellega tegeleb
AI SmartTalk assistendid vastavad ettevõtte indekseeritud sisult ja kataloogist ning loevad tooteid ja tellimusi tööriistade kaudu, mitte mudeli mälust. Nende sisseehitatud reeglid nõuavad tõendite toomist enne lubaduste, nagu garantiid, saatmine, tagasimaksed või laoseis, esitamise lubamist ning keelavad väita, et üleandmine või pilet toimus, kui tööriist tegelikult ei õnnestunud. Negatiivne tagasiside ja küsimused, millele abiline ei suutnud vastata, tuuakse meeskonna ette, et teadmistebaasi saaks täiendada.
Korduma kippuvad küsimused
Kas AI hallutsioone saab kõrvaldada?
Praeguste keelemudelitega ei saa. Neid saab muuta haruldaseks ja madala mõjuga, toetades vastuseid kinnitatud allikatele, kasutades reaalajas andmete jaoks tööriistu, lubades assistendil öelda, et ta ei tea, ja suunates tundlikud juhtumid inimestele.
Kas RAG peatab hallutsioonid?
See vähendab neid palju, kuid mudel võib siiski lõiku valesti tõlgendada või vastata, kui saadud lõigud on teemast kõrval. Otsingu kvaliteet ja selged juhised on sama olulised kui tehnika ise.
Miks AI kõlab nii kindlalt, kui ta on vale?
Sujuvus ja täpsus on toodetud sama mehhanismi kaudu: tõenäolise teksti ennustamine. Mudeli toon ei ütle midagi selle kohta, kas faktid on õiged, mistõttu on vajalikud allikad ja kontrollid.
Kes on vastutav, kui vestlusrobot annab vale teavet?
Praktikas kipuvad kliendid ja regulaatorid pidama vestlusrobotit haldavat ettevõtet vastutavaks selle eest, mida see ütleb. See on üldine teave, mitte õigusnõuanne; kontrollige oma riigis kehtivaid reegleid.