AI hallucináció (LLM hallucináció)

Egy nyelvi modell a szöveg legvalószínűbb folytatását generálja; nincs beépített fogalma arról, hogy egy mondat igaz-e. Amikor a megfelelő információ hiányzik a képzési adataiból vagy az általa kapott szövegekből, akkor is előállít valamit, ami válasznak tűnik. Egy 2025-ös kutatás (Kalai és munkatársai) azt állítja, hogy a képzés és az értékelés ezt súlyosbítja azzal, hogy a magabiztos tippelést jutalmazza az őszinte „nem tudom” helyett.

A szakirodalom kétféle hallucinációt különböztet meg. Az intrinzikus hallucinációk ellentmondanak a modell által kapott forrásnak — félreérti a visszatérítési politikáját. Az extrinzikus hallucinációk olyan állításokat adnak hozzá, amelyeket egy forrás sem támogat — kitalál egy 60 napos garanciát, amit soha nem kínáltál.

Egy hallucináció egy támogatási csevegésben nem absztrakt hiba. Egy ügyfél, akit arról tájékoztatnak, hogy a visszatérések ingyenesek, hogy egy termék vízálló vagy hogy egy csomag holnap érkezik, ennek megfelelően fog cselekedni, és esetleg számon kérheti a vállalkozást. A bíróságok és a fogyasztóvédelmi hatóságok általában úgy kezelik a vállalat chatbotját, mint aki a vállalat nevében beszél.

A kockázat a kötelezettségvállalások esetén a legmagasabb: árak, készlet, szállítási határidők, garanciák, visszatérítések, jogi vagy egészségügyi információk. Ezek pontosan azok a kérdések, amelyeket az ügyfelek a leggyakrabban feltesznek.

Nincs olyan módszer, amely teljesen eltávolítaná őket, de több módszer éles csökkentésüket eredményezi. Alapozd a válaszokat a saját tartalmadra a lekérdezés-alapú generálással (RAG), és tartsd azt a tartalmat naprakészen. Használj eszközöket az élő adatok — készlet, megrendelések — olvasására ahelyett, hogy a modell emlékezetére hagyatkoznál. Utasítsd a modellt, hogy mondja el, amikor a források nem tartalmazzák a választ, és tedd ezt egy elfogadható kimenetté. Követelj bizonyítékot bármilyen kötelezettségvállalás előtt. Add át a beszélgetést egy személynek, amikor a kérdés érzékeny, vagy az ügynök nem biztos.

Aztán mérj: nézd át a beszélgetéseket, különösen azokat, amelyek negatív visszajelzést kaptak, és add hozzá a hiányzó információt a tudásbázishoz, ahelyett, hogy minden esetben javítanád a promptot.

Az AI SmartTalk asszisztensek a vállalkozás indexelt tartalmából és katalógusából válaszolnak, és termékeket és megrendeléseket olvasnak eszközökön keresztül, nem pedig a modell memóriájából. Beépített szabályaik megkövetelik, hogy a kötelezettségek, például garanciák, szállítás, visszatérítések vagy készlet állításához lekérdezett bizonyíték legyen, és megtiltják, hogy azt állítsák, hogy átadás vagy jegy történt, hacsak az eszköz valóban nem sikerült. A lefelé mutató visszajelzések és a kérdések, amelyeket az asszisztens nem tudott megválaszolni, a csapat elé kerülnek, hogy a tudásbázis kiegészíthető legyen.