نموذج لغة كبير (LLM)

يقرأ LLM النص كرموز — قطع من الكلمات — ومن ثم، لكل موضع، يحسب احتمال كل رمز ممكن التالي. توليد إجابة يعني تكرار ذلك التوقع رمزًا بعد رمز. تستخدم جميع نماذج LLM الحالية تقريبًا بنية Transformer التي قدمها فاسواني وزملاؤه في عام 2017، والتي تسمح آلية الانتباه للنموذج بوزن كل جزء من المدخلات عند إنتاج كل كلمة.

تحدث عملية التدريب على مراحل. التدريب المسبق على مجموعة نصوص ضخمة يعلم اللغة والمعرفة العامة. ثم تعلم التوجيه والتغذية الراجعة من الناس النموذج كيفية اتباع الطلبات، وإجراء حوار، ورفض بعض المهام. في عام 2020، أظهرت ورقة GPT-3 أن نموذجًا كبيرًا بما يكفي يمكنه أداء مهام جديدة من بعض الأمثلة في الموجه، دون إعادة تدريب.

معرفة LLM متجمدة في نهاية بيانات تدريبه، ولم يرَ أبدًا معلومات عملك الخاصة: الأسعار، المخزون، سياسة الإرجاع، طلبات العملاء. عند سؤاله عنها، غالبًا ما ينتج تخمينًا معقولًا — هلوسة. كما أن لديه نافذة سياق محدودة، وهي كمية النص التي يمكنه أخذها في الاعتبار مرة واحدة.

لهذا السبب نادراً ما تعتمد المساعدات التجارية المفيدة على النموذج وحده. توليد معزز بالاسترجاع (RAG) يمده بالمقاطع ذات الصلة من محتواك، وتسمح الأدوات له بالاستعلام عن أنظمة حية مثل كتالوج أو قاعدة بيانات الطلبات.

تختلف النماذج في جودة التفكير، السرعة، السعر لكل رمز، اللغات التي تتعامل معها بشكل جيد، حجم السياق، وأين يتم استضافتها. بالنسبة لخدمة العملاء، غالبًا ما يكون نموذج سريع ومتوسط الحجم كافيًا للأسئلة الروتينية، بينما تستفيد الحالات الأكثر صعوبة — السياسات الطويلة، الطلبات متعددة الخطوات — من نموذج أقوى. كما أن موقع البيانات مهم أيضًا: قد تفضل شركة أوروبية نموذجًا مستضافًا في الاتحاد الأوروبي.

النموذج هو جزء واحد فقط من النتيجة. التعليمات، بيانات الأساس، الأدوات والتقييم على المحادثات الحقيقية عادة ما تكون أكثر أهمية من الانتقال من نموذج رائد إلى آخر.

تم بناء مساعدي AI SmartTalk حول نماذج LLM وتستخدم نماذج مستضافة في الاتحاد الأوروبي بشكل افتراضي؛ يمكن للعميل اختيار استخدام نماذج مقدمي خدمات آخرين بدلاً من ذلك. تستند إجابات المساعد إلى محتوى العمل المفهرس والكتالوج، ويستخدم أدوات للبحث عن بيانات حية بدلاً من طلب من النموذج تذكرها.