نموذج لغة كبير (LLM)

يقرأ LLM النصوص كرموز — قطع من الكلمات — ومن كل موضع، يحسب احتمال كل رمز ممكن. توليد إجابة يعني تكرار تلك التوقعات رمزًا بعد رمز. تستخدم جميع نماذج LLM الحالية تقريبًا بنية Transformer التي قدمها فاسواني وزملاؤه في 2017، والتي تسمح للنموذج بوزن كل جزء من المدخلات عند إنتاج كل كلمة.

يحدث التدريب على مراحل. التدريب المسبق على مجموعة نصوص ضخمة يعلم اللغة والمعرفة العامة. ثم تعلم ضبط التعليمات والتغذية الراجعة من الناس النموذج اتباع الطلبات، وإجراء حوار ورفض بعض المهام. في 2020، أظهر ورقة GPT-3 أن نموذجًا كبيرًا بما فيه الكفاية يمكنه أداء مهام جديدة من بعض الأمثلة في الطلب، دون إعادة تدريب.

معرفة LLM مجمدة في نهاية بيانات تدريبه، ولم ير أبدًا معلومات خاصة بشركتك: الأسعار، المخزون، سياسة الإرجاع، طلبات العملاء. عند سؤاله عنها، غالبًا ما ينتج تخمينًا معقولًا — هلوسة. كما أن لديه نافذة سياق محدودة، وهي كمية النص التي يمكنه أخذها في الاعتبار في وقت واحد.

لهذا السبب نادرًا ما تعتمد المساعدات التجارية المفيدة على النموذج وحده. توليد معزز بالاسترجاع (RAG) يمده بالمقاطع ذات الصلة من محتواك، وتسمح الأدوات له بالاستعلام عن الأنظمة الحية مثل كتالوج أو قاعدة بيانات الطلبات.

تختلف النماذج في جودة التفكير، السرعة، السعر لكل رمز، اللغات التي تتعامل معها بشكل جيد، حجم السياق، وأين يتم استضافتها. بالنسبة لخدمة العملاء، غالبًا ما يكون نموذج سريع ومتوسط الحجم كافيًا للأسئلة الروتينية، بينما تستفيد الحالات الأكثر صعوبة — السياسات الطويلة، الطلبات متعددة الخطوات — من نموذج أقوى. مكان البيانات مهم أيضًا: قد تفضل شركة أوروبية نموذجًا مستضافًا في الاتحاد الأوروبي.

النموذج هو جزء واحد فقط من النتيجة. التعليمات، بيانات الأساس، الأدوات والتقييم على المحادثات الحقيقية عادة ما تكون أكثر أهمية من الانتقال من نموذج رائد إلى آخر.

مساعدو AI SmartTalk مبنيون حول LLMs ويستخدمون نماذج مستضافة في الاتحاد الأوروبي بشكل افتراضي؛ يمكن للعميل اختيار استخدام نماذج مزودين آخرين بدلاً من ذلك. إجابات المساعد مؤسسّة على محتوى الشركة المفهرس والكتالوج، ويستخدم أدوات للبحث عن بيانات حية بدلاً من طلب من النموذج تذكرها.