نموذج لغة كبير (LLM)

يقرأ LLM النصوص كرموز — قطع من الكلمات — ويحسب، لكل موضع، احتمال كل رمز ممكن التالي. يعني توليد إجابة تكرار تلك التوقعات رمزًا بعد رمز. تستخدم معظم نماذج LLM الحالية بنية Transformer التي قدمها فاسواني وزملاؤه في عام 2017، والتي تسمح آلية الانتباه للنموذج بوزن كل جزء من المدخلات عند إنتاج كل كلمة.

تحدث عملية التدريب على مراحل. التعليم المسبق على مجموعة نصوص ضخمة يعلم اللغة والمعرفة العامة. ثم يقوم ضبط التعليم والتغذية الراجعة من الأشخاص بتعليم النموذج اتباع الطلبات، وإجراء الحوار، ورفض بعض المهام. في عام 2020، أظهر ورقة GPT-3 أن نموذجًا كبيرًا بما يكفي يمكنه أداء مهام جديدة من بعض الأمثلة في الموجه، دون إعادة تدريب.

معرفة LLM متجمدة في نهاية بيانات تدريبه، ولم يرَ أبدًا معلومات خاصة بشركتك: الأسعار، المخزون، سياسة الإرجاع، طلبات العملاء. عند سؤاله عنها، غالبًا ما ينتج تخمينًا معقولًا — هلوسة. كما أن لديه نافذة سياقية محدودة، وهي كمية النص التي يمكنه أخذها في الاعتبار في وقت واحد.

لهذا السبب نادرًا ما تعتمد المساعدات التجارية المفيدة على النموذج وحده. تغذي توليد المعلومات المعززة (RAG) النموذج بالمقاطع ذات الصلة من محتواك، وتسمح الأدوات له بالاستعلام عن أنظمة حية مثل كتالوج أو قاعدة بيانات الطلبات.

تختلف النماذج في جودة التفكير، السرعة، السعر لكل رمز، اللغات التي تتعامل معها بشكل جيد، حجم السياق، وأين يتم استضافتها. بالنسبة لخدمة العملاء، غالبًا ما يكون نموذج متوسط السرعة كافيًا للأسئلة الروتينية، بينما تستفيد الحالات الأكثر صعوبة — السياسات الطويلة، الطلبات متعددة الخطوات — من نموذج أقوى. كما أن موقع البيانات مهم أيضًا: قد تفضل شركة أوروبية نموذجًا مستضافًا في الاتحاد الأوروبي.

النموذج هو جزء واحد فقط من النتيجة. التعليمات، بيانات الأساس، الأدوات والتقييم على المحادثات الحقيقية عادة ما تكون أكثر أهمية من الانتقال من نموذج رائد إلى آخر.

تم بناء مساعدي AI SmartTalk حول نماذج LLM وتستخدم نماذج مستضافة في الاتحاد الأوروبي بشكل افتراضي؛ يمكن للعميل اختيار استخدام نماذج مقدمي خدمات آخرين بدلاً من ذلك. تعتمد إجابات المساعد على محتوى الأعمال المفهرس وكتالوجها، ويستخدم أدوات للبحث عن البيانات الحية بدلاً من مطالبة النموذج بتذكرها.