هلوسة الذكاء الاصطناعي (هلوسة نموذج اللغة)

ينتج نموذج اللغة أكثر استمرارية محتملة للنص؛ ليس لديه مفهوم مدمج حول ما إذا كانت الجملة صحيحة. عندما تكون المعلومات الصحيحة مفقودة من بيانات تدريبه أو من المقاطع التي تم إعطاؤها، فإنه لا يزال ينتج شيئًا يبدو كإجابة. تشير الأبحاث من عام 2025 (كالاي وزملاؤه) إلى أن التدريب والتقييم يجعل هذا الأمر أسوأ من خلال مكافأة التخمين الواثق على "لا أعرف" الصادقة.

تفرق الأدبيات بين نوعين. هلوسات داخلية تتناقض مع المصدر الذي تم إعطاؤه للنموذج - إنه يسيء قراءة سياسة الإرجاع الخاصة بك. هلوسات خارجية تضيف ادعاءات لا يدعمها أي مصدر - إنها تخترع ضمانًا لمدة 60 يومًا لم تقدمه أبدًا.

الهلاوس في دردشة الدعم ليست خطأً مجردًا. العميل الذي يُقال له إن الإرجاع مجاني، أو أن المنتج مقاوم للماء، أو أن الطرد سيصل غدًا سيتصرف بناءً على ذلك، وقد يُحاسب الشركة على ذلك. تميل المحاكم والسلطات الاستهلاكية عمومًا إلى اعتبار روبوت الدردشة الخاص بالشركة يتحدث باسم الشركة.

المخاطر هي الأعلى في الالتزامات: الأسعار، المخزون، تواريخ التسليم، الضمانات، المبالغ المستردة، المعلومات القانونية أو الصحية. هذه هي بالضبط الأسئلة التي يسألها العملاء أكثر.

لا توجد طريقة تزيلها تمامًا، لكن عدة طرق تقللها بشكل حاد. قم بتأصيل الإجابات في محتواك الخاص باستخدام توليد مدعوم بالاسترجاع (RAG)، واحتفظ بذلك المحتوى محدثًا. استخدم أدوات لقراءة البيانات الحية - المخزون، الطلبات - بدلاً من السماح للنموذج باسترجاعها. وجه النموذج ليقول عندما لا تحتوي المصادر على الإجابة، واجعل ذلك نتيجة مقبولة. تطلب دليلًا قبل أي التزام. سلم المحادثة لشخص عندما تكون السؤال حساسًا أو عندما يكون الوكيل غير متأكد.

ثم قم بالقياس: راجع المحادثات، خاصة تلك التي تحتوي على تعليقات سلبية، وأضف المعلومات المفقودة إلى قاعدة المعرفة بدلاً من إصلاح الطلب لكل حالة.

تجيب مساعدو AI SmartTalk من محتوى الشركة المفهرس وكاتالوجها، ويقرأون المنتجات والطلبات من خلال أدوات بدلاً من ذاكرة النموذج. تتطلب قواعدهم المدمجة دليلًا مسترجعًا قبل ذكر الالتزامات مثل الضمانات، الشحن، المبالغ المستردة أو المخزون، وتحظر الادعاء بأن تسليمًا أو تذكرة حدثت ما لم تنجح الأداة بالفعل. يتم عرض التعليقات السلبية والأسئلة التي لم يتمكن المساعد من الإجابة عليها على الفريق حتى يمكن إكمال قاعدة المعرفة.