هلوسة الذكاء الاصطناعي (هلوسة LLM)

نموذج لغوي كيولد الأكثر احتمالاً لاستمرار نص؛ ما عندوش فكرة مدمجة واش الجملة صحيحة. ملي تكون المعلومات الصحيحة غائبة من بيانات التدريب ديالو أو من المقاطع اللي تم إعطاؤها، كيبقى كيولد شي حاجة كتشبه الإجابة. بحث من 2025 (كالاي وزملاؤه) كيجادل أن التدريب والتقييم كيزيدو هاد المشكلة سوءً من خلال مكافأة التخمين الواثق على "ما عارفش" صادق.

الأدبيات كتميز بين نوعين. هلوسات داخلية كتتناقض مع المصدر اللي تم إعطاؤه للنموذج — كيغلط في سياسة الإرجاع ديالك. هلوسات خارجية كيزيدو ادعاءات ما كيدعمها حتى مصدر — كاختراع ضمان 60 يوم اللي ما عمرك عرضتيه.

هلوسة في دردشة الدعم ماشي خطأ مجرد. الزبون اللي كيتقال ليه أن الإرجاعات مجانية، أن منتج مقاوم للماء أو أن الطرد غادي يوصل غدا غادي يتصرف بناءً على هاد الشي، وقد يطالب الشركة به. المحاكم والسلطات الاستهلاكية عموماً كتعامل مع شات بوت ديال الشركة كيتكلم باسم الشركة.

الخطر هو الأعلى في الالتزامات: الأسعار، المخزون، تواريخ التسليم، الضمانات، الاستردادات، المعلومات القانونية أو الصحية. هادو بالضبط هما الأسئلة اللي كيسول عليها الزبناء أكثر.

ما كاينش طريقة كتزيلهم بشكل كامل، ولكن كاينين عدة طرق كتقللهم بشكل كبير. ربط الإجابات بالمحتوى الخاص بك باستخدام الجيل المعزز بالاسترجاع (RAG)، واحتفظ بها محدثة. استخدم أدوات لقراءة البيانات الحية — المخزون، الطلبات — بدلاً من ترك النموذج يسترجعها. علم النموذج يقول ملي تكون المصادر ما كتشملش الإجابة، وخلّي هاد الشي يكون نتيجة مقبولة. طالب بالأدلة قبل أي التزام. سلم المحادثة لشخص ملي تكون السؤال حساس أو الوكيل غير متأكد.

ثم قياس: راجع المحادثات، خصوصاً اللي فيها ملاحظات سلبية، وزيد المعلومات الناقصة لقاعدة المعرفة بدلاً من تصحيح الطلب لكل حالة.

مساعدي AI SmartTalk كيجاوبوا من المحتوى المفهرس ديال الشركة وكيتصفحوا المنتجات والطلبات من خلال أدوات بدلاً من ذاكرة النموذج. القواعد المدمجة ديالهم كتطلب أدلة مسترجعة قبل ما يصرحوا بالتزامات بحال الضمانات، الشحن، الاستردادات أو المخزون، وكاتمنع الادعاء بأن تسليم أو تذكرة وقعت إلا إذا الأداة نجحات فعلاً. الملاحظات السلبية والأسئلة اللي المساعد ما قدرش يجاوب عليها كيتعرضوا على الفريق باش قاعدة المعرفة تكتمل.