AI halucinácia (halucinácia LLM)
Rýchla definícia
AI halucinácia je odpoveď od jazykového modelu, ktorá znie plynulo a sebavedomo, ale je nepravdivá, vymyslená alebo nie je podporená jeho zdrojmi. V zákazníckej podpore sa zvyčajne prejavuje ako nesprávna cena, politika alebo oneskorenie.
Na tejto stránke
Prečo jazykové modely halucinujú
Jazykový model generuje najpravdepodobnejšie pokračovanie textu; nemá zabudovanú predstavu o tom, či je veta pravdivá. Keď chýbajú správne informácie z jeho tréningových dát alebo z pasáží, ktoré dostal, stále produkuje niečo, čo vyzerá ako odpoveď. Výskum z roku 2025 (Kalai a kolegovia) tvrdí, že tréning a hodnotenie to zhoršujú odmeňovaním sebavedomého hádania namiesto úprimného „neviem“.
Literatúra rozlišuje dva druhy. Intrinzná halucinácia odporuje zdroju, ktorý model dostal — nesprávne interpretuje vašu politiku vrátenia. Extrinzná halucinácia pridáva tvrdenia, ktoré žiadny zdroj nepodporuje — vymýšľa 60-dňovú záruku, ktorú ste nikdy nenabízali.
Aké sú náklady na zákaznícku podporu
Halucinácia v podpore chatu nie je abstraktná chyba. Zákazník, ktorému je povedané, že vrátenia sú zadarmo, že produkt je vodotesný alebo že balík dorazí zajtra, na tom bude konať a môže to od podniku vyžadovať. Súdne a spotrebiteľské orgány zvyčajne považujú chatbot spoločnosti za hovoriaceho za spoločnosť.
Riziko je najvyššie pri záväzkoch: ceny, zásoby, dátumy dodania, záruky, vrátenia, právne alebo zdravotné informácie. To sú presne otázky, ktoré zákazníci najčastejšie kladú.
Ako znížiť halucinácie
Žiadna metóda ich úplne neodstráni, ale niekoľko ich výrazne znižuje. Zakladajte odpovede na vlastnom obsahu s generovaním obohateným o vyhľadávanie (RAG) a udržujte tento obsah aktuálny. Používajte nástroje na čítanie živých dát — zásoby, objednávky — namiesto toho, aby ste nechali model si ich pamätať. Pokyny modelu, aby povedal, keď zdroje neobsahujú odpoveď, a aby to bolo akceptovateľným výsledkom. Vyžadujte dôkazy pred akýmkoľvek záväzkom. Odovzdajte konverzáciu osobe, keď je otázka citlivá alebo agent si nie je istý.
Potom merajte: prezerajte si konverzácie, najmä tie s negatívnou spätnou väzbou, a pridajte chýbajúce informácie do znalostnej bázy namiesto toho, aby ste opravovali výzvu pre každý prípad.
Ako AI SmartTalk s tým zaobchádza
Asistenti AI SmartTalk odpovedajú z indexovaného obsahu a katalógu podniku a čítajú produkty a objednávky prostredníctvom nástrojov namiesto z pamäte modelu. Ich zabudované pravidlá vyžadujú získané dôkazy pred uvedením záväzkov, ako sú záruky, doprava, vrátenia alebo zásoby, a zakazujú tvrdiť, že došlo k odovzdaniu alebo lístku, pokiaľ nástroj skutočne neuspel. Spätná väzba s negatívnym hodnotením a otázky, na ktoré asistent nemohol odpovedať, sú zobrazené tímu, aby sa mohla doplniť znalostná báza.
Často kladené otázky
Môžu byť AI halucinácie eliminované?
Nie s aktuálnymi jazykovými modelmi. Môžu byť zriedkavé a s nízkym dopadom tým, že sa odpovede zakladajú na overených zdrojoch, používajú nástroje na živé dáta, umožňujú asistentovi povedať, že nevie, a eskalujú citlivé prípady na ľudí.
Zastaví RAG halucinácie?
Výrazne ich znižuje, ale model môže stále nesprávne interpretovať pasáž alebo odpovedať, keď sú získané pasáže mimo témy. Kvalita vyhľadávania a jasné pokyny sú rovnako dôležité ako samotná technika.
Prečo znie AI tak iste, keď je nesprávna?
Plynulosť a presnosť sú produkované rovnakým mechanizmom: predpovedaním pravdepodobného textu. Tón modelu nehovorí nič o tom, či sú fakty správne, a preto sú potrebné zdroje a kontroly.
Kto je zodpovedný, keď chatbot poskytne nesprávne informácie?
V praxi zákazníci a regulátori zvyčajne považujú podnik, ktorý prevádzkuje chatbot, za zodpovedný za to, čo hovorí. Toto sú všeobecné informácie, nie právne poradenstvo; skontrolujte pravidlá, ktoré platia vo vašej krajine.