KI hallusinasie (LLM hallusinasie)
Vinige definisie
‘n KI-hallusinasie is ‘n antwoord van ‘n taalmodel wat vlot en selfversekerd klink, maar vals, uitgevind of nie ondersteun deur sy bronne is nie. In kliëntediens verskyn dit tipies as ‘n verkeerde prys, beleid of vertraging.
Op hierdie bladsy
Waarom taalmodelle hallusineer
‘n Taalmodel genereer die mees waarskynlike voortsetting van ‘n teks; dit het geen ingeboude begrip van of ‘n sin waar is nie. Wanneer die regte inligting ontbreek uit sy opleidingsdata of uit die gedeeltes wat dit gegee is, produseer dit steeds iets wat soos ‘n antwoord lyk. Navorsing van 2025 (Kalai en kollegas) voer aan dat opleiding en evaluering dit vererger deur ‘n selfversekerde gissing te beloon bo ‘n eerlike “Ek weet nie”.
Die literatuur onderskei twee soorte. Intrinsieke hallusinasies weerspreek die bron wat die model gegee is — dit lees jou terugkeerbeleid verkeerd. Ekstrinsieke hallusinasies voeg aansprake by wat geen bron ondersteun nie — dit vind ‘n 60-dae waarborg uit wat jy nooit aangebied het nie.
Wat dit kos in kliëntediens
‘n Hallusinasie in ‘n ondersteuningsgesprek is nie ‘n abstrakte fout nie. ‘n Kliënt wat vertel word dat terugsendings gratis is, dat ‘n produk waterdig is of dat ‘n pakkie môre sal aankom, sal daarop optree, en mag die besigheid daaraan hou. Regshowe en verbruikersowerhede behandel oor die algemeen ‘n maatskappy se chatbot as wat die maatskappy sê.
Die risiko is die hoogste op verbintenisse: pryse, voorraad, afleweringsdatums, waarborge, terugbetalings, regslike of gesondheidsinligting. Dit is presies die vrae wat kliënte die meeste vra.
Hoe om hallusinasies te verminder
Geen metode verwyder hulle heeltemal nie, maar verskeie verminder hulle skerp. Grond antwoorde in jou eie inhoud met retrieval-augmented generation (RAG), en hou daardie inhoud aktueel. Gebruik gereedskap om lewendige data te lees — voorraad, bestellings — eerder as om die model dit te laat onthou. Instrueer die model om te sê wanneer die bronne nie die antwoord bevat nie, en maak dit ‘n aanvaarbare uitkoms. Vereis bewyse voor enige verbintenis. Gee die gesprek aan ‘n persoon wanneer die vraag sensitief is of die agent onseker is.
Meet dan: hersien gesprekke, veral dié met negatiewe terugvoer, en voeg die ontbrekende inligting by die kennisbasis eerder as om die prompt vir elke geval te herstel.
Hoe AI SmartTalk dit hanteer
AI SmartTalk assistente antwoord uit die maatskappy se geïndekseerde inhoud en katalogus, en lees produkte en bestellings deur middel van gereedskap eerder as uit die model se geheue. Hulle se ingeboude reëls vereis dat teruggehaalde bewyse voor die verklaring van verbintenisse soos waarborge, versending, terugbetalings of voorraad, en verbied om te beweer dat ‘n oorhandiging of ‘n kaartjie plaasgevind het tensy die gereedskap werklik geslaag het. Thumbs-down terugvoer en vrae wat die assistent nie kon beantwoord nie, word aan die span bekend gemaak sodat die kennisbasis voltooi kan word.
Gereelde vrae
Kan KI-hallusinasies verwyder word?
Nie met huidige taalmodelle nie. Hulle kan skaars en met ‘n lae impak gemaak word deur antwoorde in geverifieerde bronne te grond, gereedskap vir lewendige data te gebruik, die assistent toe te laat om te sê hy weet nie, en sensitiewe gevalle aan mense te eskaleer.
Stop RAG hallusinasies?
Dit verminder hulle baie, maar die model kan steeds ‘n gedeelte verkeerd lees of antwoordgee wanneer die teruggehaalde gedeeltes buite onderwerp is. Herwinningskwaliteit en duidelike instruksies is net so belangrik soos die tegniek self.
Waarom klink die KI so seker wanneer dit verkeerd is?
Vlotheid en akkuraatheid word deur dieselfde meganisme geproduseer: die voorspellings van waarskynlike teks. Die model se toon sê niks oor of die feite reg is nie, wat die rede is waarom bronne en kontroles nodig is.
Wie is verantwoordelik wanneer ‘n chatbot verkeerde inligting gee?
In praktyk geneig kliënte en regulateurs om die besigheid wat die chatbot bestuur as verantwoordelik te behandel vir wat dit sê. Dit is algemene inligting, nie regsadvies nie; kyk na die reëls wat in jou land van toepassing is.