Yapay zeka halüsinasyonu (LLM halüsinasyonu)

Bir dil modeli, bir metnin en olası devamını üretir; bir cümlenin doğru olup olmadığına dair yerleşik bir anlayışı yoktur. Eğitim verilerinden veya verilen pasajlardan doğru bilgi eksik olduğunda, yine de cevap gibi görünen bir şey üretir. 2025'teki araştırmalar (Kalai ve meslektaşları), eğitim ve değerlendirmenin, güvenli bir tahmini dürüst bir 'bilmiyorum' ifadesinin üzerine ödüllendirerek durumu kötüleştirdiğini savunuyor.

Literatürde iki tür ayırt edilmektedir. İçsel halüsinasyonlar, modelin verildiği kaynağı çelişkiye düşürür — iade politikanızı yanlış okur. Dışsal halüsinasyonlar, hiçbir kaynağın desteklemediği iddialar ekler — hiç sunmadığınız 60 günlük bir garanti uydurur.

Destek sohbetinde bir halüsinasyon soyut bir hata değildir. İade işlemlerinin ücretsiz olduğu, bir ürünün su geçirmez olduğu veya bir paketin yarın geleceği söylenen bir müşteri buna göre hareket eder ve işletmeyi buna bağlı tutabilir. Mahkemeler ve tüketici otoriteleri genellikle bir şirketin sohbet botunu şirketin sözcüsü olarak kabul eder.

Risk, taahhütlerde en yüksektir: fiyatlar, stok, teslimat tarihleri, garantiler, iadeler, yasal veya sağlık bilgileri. Bunlar, müşterilerin en çok sorduğu sorulardır.

Hiçbir yöntem onları tamamen ortadan kaldırmaz, ancak birkaç yöntem onları keskin bir şekilde azaltır. Cevapları kendi içeriğinizle destekleyin ve o içeriği güncel tutun. Modelin hatırlamasına izin vermek yerine, canlı verileri — stok, siparişler — okumak için araçlar kullanın. Modeli, kaynakların cevabı içermediğini söylemesi için talimatlandırın ve bunu kabul edilebilir bir sonuç haline getirin. Herhangi bir taahhüt öncesinde kanıt talep edin. Sorunun hassas olduğu veya temsilcinin emin olmadığı durumlarda konuşmayı birine devredin.

Sonra ölçün: özellikle olumsuz geri bildirim alan konuşmaları gözden geçirin ve eksik bilgileri her durum için istemi yamanmak yerine bilgi tabanına ekleyin.

AI SmartTalk asistanları, işletmenin dizinlenmiş içeriğinden ve kataloğundan yanıt verir ve ürünleri ve siparişleri modelin hafızasından değil, araçlar aracılığıyla okur. Yerleşik kuralları, taahhütler (garantiler, gönderimler, iadeler veya stok gibi) belirtmeden önce elde edilen kanıtları gerektirir ve bir devrin veya biletin gerçekleştiğini iddia etmeyi yasaklar, eğer araç gerçekten başarılı olmadıysa. Olumsuz geri bildirimler ve asistanın yanıtlayamadığı sorular ekibe iletilir, böylece bilgi tabanı tamamlanabilir.