დიდი ენობრივი მოდელი (LLM)

LLM კითხულობს ტექსტს როგორც ტოკენებს — სიტყვების ნაწილებს — და, თითოეულ პოზიციაზე, გამოითვლის ყოველ შესაძლო მომდევნო ტოკენის ალბათობას. პასუხის გენერირება ნიშნავს ამ პროგნოზის გამეორებას ტოკენიდან ტოკენზე. თითქმის ყველა თანამედროვე LLM იყენებს ტრანსფორმერის არქიტექტურას, რომელიც 2017 წელს დააწვდინა ვასვანიმ და კოლეგებმა, რომლის ყურადღების მექანიზმი საშუალებას აძლევს მოდელს შეაფასოს თითოეული ნაწილის მნიშვნელობა, როდესაც თითოეულ სიტყვას აწარმოებს.

ვარჯიში ხდება ეტაპობრივად. წინასწარი ვარჯიში უზარმაზარ ტექსტურ კორპუსზე ასწავლის ენას და ზოგად ცოდნას. ინსტრუქციის რეგულირება და ადამიანებისგან მიღებული უკუკავშირი შემდეგ ასწავლის მოდელს, რომ შეასრულოს მოთხოვნები, აწარმოოს დიალოგი და უარყოს ზოგიერთი დავალება. 2020 წელს GPT-3-ის სტატია აჩვენებს, რომ საკმარისად დიდი მოდელი ახალი დავალებების შესრულებას შეძლებს რამდენიმე მაგალითის საფუძველზე, ხელახლა ვარჯიშის გარეშე.

LLM-ის ცოდნა გაყინულია მისი ვარჯიშის მონაცემების ბოლოს და ის არასოდეს უნახავს თქვენი ბიზნესის პირადი ინფორმაცია: ფასები, მარაგი, დაბრუნების პოლიტიკა, მომხმარებლის შეკვეთები. როდესაც მათზე იკითხება, ის ხშირად წარმოქმნის დამაჯერებელ ვარაუდს — ჰალუცინაციას. მას ასევე აქვს შეზღუდული კონტექსტის ფანჯარა, ტექსტის რაოდენობა, რომელსაც ერთდროულად შეუძლია გაითვალისწინოს.

ეს არის მიზეზი, რის გამოც სასარგებლო ბიზნეს ასისტენტები იშვიათად ეყრდნობიან მხოლოდ მოდელს. ინფორმაციის გაწვდილი გენერაცია (RAG) აწვდავს მას შესაბამის მონაკვეთს თქვენი შინაარსიდან, ხოლო ხელსაწყოები საშუალებას აძლევს მას მოიძიოს ცოცხალი სისტემები, როგორიცაა კატალოგი ან შეკვეთის ბაზა.

მოდელები განსხვავდებიან აზროვნების ხარისხით, სიჩქარით, ტოკენის ფასით, ენების ხარისხით, კონტექსტის ზომით და იმ ადგილით, სადაც ისინი მასპინძლობენ. მომხმარებელთა მომსახურებისთვის სწრაფი, საშუალო ზომის მოდელი ხშირად საკმარისია რუტინული კითხვებისთვის, ხოლო რთულ შემთხვევებში — გრძელი პოლიტიკები, მრავალ ნაბიჯიანი მოთხოვნები — სარგებლობს უფრო ძლიერი მოდელით. მონაცემების ადგილმდებარეობაც მნიშვნელოვანია: ევროპულ ბიზნესს შეიძლება მოეწონოს მოდელი, რომელიც ევროკავშირშია მასპინძლობილი.

მოდელი მხოლოდ შედეგის ერთი ნაწილია. ინსტრუქციები, საფუძვლიანი მონაცემები, ხელსაწყოები და რეალურ საუბრებზე შეფასება ჩვეულებრივ უფრო მნიშვნელოვანია, ვიდრე ერთ წამყვან მოდელზე მეორეზე გადართვა.

AI SmartTalk ასისტენტები აშენებულია LLM-ების გარშემო და გამოიყენებენ ევროკავშირში მასპინძლობილი მოდელების მიხედვით; მომხმარებელს შეუძლია აირჩიოს სხვა პროვაიდერების მოდელების გამოყენება. ასისტენტის პასუხები დაფუძნებულია ბიზნესის ინდექსირებულ შინაარსზე და კატალოგზე, და ის იყენებს ხელსაწყოებს ცოცხალი მონაცემების მოძიებისათვის, ნაცვლად იმისა, რომ მოდელს სთხოვოს მათი გახსენება.