نموذج لغة كبير (LLM)

يقرأ LLM النصوص كرموز — أجزاء من الكلمات — ومن كل موضع، يحسب احتمال كل رمز ممكن التالي. توليد إجابة يعني تكرار تلك التوقعات رمزاً بعد رمز. تستخدم جميع نماذج LLM الحالية تقريباً بنية Transformer التي قدمها فاسواني وزملاؤه في 2017، والتي تسمح للآلية الانتباهية للنموذج بوزن كل جزء من المدخلات عند إنتاج كل كلمة.

يحدث التدريب على مراحل. التدريب المسبق على مجموعة نصوص ضخمة يعلم اللغة والمعرفة العامة. ثم تعلم التوجيه وتعليقات الناس النموذج كيفية اتباع الطلبات، وإجراء حوار، ورفض بعض المهام. في 2020، أظهر ورقة GPT-3 أن نموذجاً كبيراً بما فيه الكفاية يمكنه أداء مهام جديدة من بعض الأمثلة في الطلب، دون إعادة تدريب.

معرفة LLM متجمدة في نهاية بيانات تدريبه، ولم يرَ أبداً معلومات خاصة عن عملك: الأسعار، المخزون، سياسة الإرجاع، طلبات العملاء. عند سؤاله عنها، غالباً ما ينتج تخميناً معقولاً — هلوسة. كما أن لديه نافذة سياق محدودة، وهي كمية النص التي يمكنه أخذها في الاعتبار في وقت واحد.

لهذا السبب نادراً ما تعتمد المساعدات التجارية المفيدة على النموذج وحده. توليد معزز بالاسترجاع (RAG) يمده بالمقاطع ذات الصلة من محتواك، وتسمح الأدوات له بالاستعلام عن أنظمة حية مثل كتالوج أو قاعدة بيانات الطلبات.

تختلف النماذج في جودة التفكير، السرعة، السعر لكل رمز، اللغات التي تتعامل معها بشكل جيد، حجم السياق، وأين يتم استضافتها. بالنسبة لخدمة العملاء، غالباً ما يكون نموذج سريع ومتوسط الحجم كافياً للأسئلة الروتينية، بينما تستفيد الحالات الأصعب — السياسات الطويلة، الطلبات متعددة الخطوات — من نموذج أقوى. مكان البيانات مهم أيضاً: قد تفضل شركة أوروبية نموذجاً مستضافاً في الاتحاد الأوروبي.

النموذج هو جزء واحد فقط من النتيجة. التعليمات، بيانات الأساس، الأدوات والتقييم على المحادثات الحقيقية عادة ما تكون أكثر أهمية من الانتقال من نموذج رائد إلى آخر.

تم بناء مساعدي AI SmartTalk حول LLMs وتستخدم نماذج مستضافة في الاتحاد الأوروبي بشكل افتراضي؛ يمكن للعميل اختيار استخدام نماذج مقدمي خدمات آخرين بدلاً من ذلك. تعتمد إجابات المساعد على محتوى العمل المفهرس وكتالوجه، ويستخدم أدوات للبحث عن بيانات حية بدلاً من مطالبة النموذج بتذكرها.