هلوسة الذكاء الاصطناعي (هلوسة LLM)

نموذج اللغة يولد أكثر تكملة محتملة لنص؛ ما عندوش فكرة مدمجة إذا كانت الجملة صحيحة. كي تكون المعلومات الصحيحة ناقصة من بيانات التدريب متاعه أو من المقاطع اللي تم إعطائها، ما زال ينتج حاجة تشبه الإجابة. بحث من 2025 (كالاي وزملاؤه) يقول إن التدريب والتقييم يزيدوا من هالمشكلة عن طريق مكافأة التخمين الواثق على "ما نعرفش" الصادق.

الأدبيات تميز بين نوعين. هلوسات داخلية تتناقض مع المصدر اللي تم إعطاؤه للنموذج — هو يقرأ سياسة الإرجاع متاعك بشكل خاطئ. هلوسات خارجية تضيف ادعاءات ما يدعمها حتى مصدر — هو يخترع ضمان 60 يوم اللي ما قدمتوش أبدا.

هلوسة في محادثة الدعم ما هيش خطأ مجرد. زبون يتقاله إن الإرجاع مجاني، إن منتج مقاوم للماء أو إن الطرد بش يوصل غدوة بش يتصرف على هالمعلومة، وقد يطالب الشركة بها. المحاكم والسلطات الاستهلاكية عادة تعتبر شات بوت الشركة كأنه يتحدث باسم الشركة.

الخطر يكون أعلى في الالتزامات: الأسعار، المخزون، مواعيد التسليم، الضمانات، الاستردادات، المعلومات القانونية أو الصحية. هاذي هي الأسئلة اللي يسألها الزبائن أكثر.

ما فماش طريقة تشيلهم بالكامل، لكن برشة طرق تنقصهم بشكل كبير. ربط الإجابات بمحتواك الخاص باستخدام توليد معزز بالاسترجاع (RAG)، وحافظ على المحتوى متاعك حديث. استعمل أدوات لقراءة البيانات الحية — المخزون، الطلبات — بدل ما تخلي النموذج يتذكرها. علم النموذج يقول وقت المصادر ما تحتويش على الإجابة، وخلي هذي نتيجة مقبولة. تطلب دليل قبل أي التزام. سلم المحادثة لشخص كي تكون السؤال حساس أو الوكيل مش متأكد.

بعدها قيس: راجع المحادثات، خاصة اللي فيها تعليقات سلبية، وزيد المعلومات الناقصة لقاعدة المعرفة بدل ما تصلح الطلب لكل حالة.

مساعدي AI SmartTalk يجاوبوا من المحتوى المفهرس ومتجر الأعمال، ويقرؤوا المنتجات والطلبات من خلال أدوات بدل ما يعتمدوا على ذاكرة النموذج. القواعد المدمجة متاعهم تطلب دليل مسترجع قبل ما يصرحوا بالالتزامات مثل الضمانات، الشحن، الاستردادات أو المخزون، وتمنع الادعاء بأن تسليم أو تذكرة حصلت إلا إذا الأداة نجحت فعلاً. تعليقات سلبية والأسئلة اللي المساعد ما قدرش يجاوب عليها يتم عرضها على الفريق باش قاعدة المعرفة تتكمل.