هلوسة الذكاء الاصطناعي (هلوسة LLM)

ينتج نموذج اللغة أكثر استمرارية محتملة للنص؛ ليس لديه مفهوم مدمج عما إذا كانت الجملة صحيحة. عندما تكون المعلومات الصحيحة مفقودة من بيانات تدريبه أو من المقاطع التي تم إعطاؤها، فإنه لا يزال ينتج شيئًا يبدو كإجابة. تشير الأبحاث من عام 2025 (كالاي وزملاؤه) إلى أن التدريب والتقييم يجعل هذا الأمر أسوأ من خلال مكافأة التخمين الواثق على "لا أعرف" الصادقة.

تفرق الأدبيات بين نوعين. هلوسات داخلية تتعارض مع المصدر الذي تم إعطاؤه للنموذج - إنه يسيء قراءة سياسة الإرجاع الخاصة بك. هلوسات خارجية تضيف ادعاءات لا يدعمها أي مصدر - إنها تخترع ضمانًا لمدة 60 يومًا لم تقدمه أبدًا.

الهلاوس في دردشة الدعم ليست خطأً مجردًا. العميل الذي يُقال له أن الإرجاع مجاني، أو أن منتجًا مقاوم للماء، أو أن الطرد سيصل غدًا سيتصرف بناءً على ذلك، وقد يُحمل العمل المسؤولية. عادةً ما تعالج المحاكم والسلطات المستهلكة دردشة الشركة على أنها تتحدث باسم الشركة.

المخاطر تكون أعلى في الالتزامات: الأسعار، المخزون، تواريخ التسليم، الضمانات، المبالغ المستردة، المعلومات القانونية أو الصحية. هذه هي بالضبط الأسئلة التي يطرحها العملاء أكثر.

لا توجد طريقة تزيلها تمامًا، ولكن هناك عدة طرق تقللها بشكل حاد. استند إلى إجاباتك في محتواك الخاص باستخدام توليد معزز بالاسترجاع (RAG)، واحتفظ بذلك المحتوى محدثًا. استخدم أدوات لقراءة البيانات الحية - المخزون، الطلبات - بدلاً من السماح للنموذج باسترجاعها. وجه النموذج ليقول عندما لا تحتوي المصادر على الإجابة، واجعل ذلك نتيجة مقبولة. تطلب الدليل قبل أي التزام. سلم المحادثة لشخص ما عندما تكون السؤال حساسًا أو عندما يكون الوكيل غير متأكد.

ثم قم بالقياس: راجع المحادثات، خاصة تلك التي تحتوي على تعليقات سلبية، وأضف المعلومات المفقودة إلى قاعدة المعرفة بدلاً من تصحيح الطلب لكل حالة.

مساعدو AI SmartTalk يجيبون من محتوى العمل المفهرس وكاتالوجه، ويقرأون المنتجات والطلبات من خلال أدوات بدلاً من ذاكرة النموذج. تتطلب قواعدهم المدمجة دليلًا مسترجعًا قبل ذكر الالتزامات مثل الضمانات، الشحن، المبالغ المستردة أو المخزون، وتحظر الادعاء بأن عملية تسليم أو تذكرة حدثت ما لم تنجح الأداة فعلاً. يتم عرض التعليقات السلبية والأسئلة التي لم يستطع المساعد الإجابة عليها على الفريق حتى يمكن إكمال قاعدة المعرفة.