โมเดลภาษาใหญ่ (LLM)
คำจำกัดความอย่างรวดเร็ว
โมเดลภาษาใหญ่ (LLM) คือเครือข่ายประสาทที่ได้รับการฝึกอบรมจากข้อมูลข้อความขนาดใหญ่เพื่อคาดการณ์คำถัดไป ซึ่งทำให้มันเข้าใจและสร้างภาษาธรรมชาติได้ มันเป็นเครื่องยนต์ในการให้เหตุผลเบื้องหลังแชทบอทและตัวแทน AI สมัยใหม่
ในหน้านี้
LLM ทำงานอย่างไร
LLM อ่านข้อความเป็นโทเค็น — ชิ้นส่วนของคำ — และสำหรับแต่ละตำแหน่ง จะคำนวณความน่าจะเป็นของโทเค็นถัดไปทุกตัว การสร้างคำตอบหมายถึงการทำซ้ำการคาดการณ์โทเค็นทีละโทเค็น โมเดล LLM ในปัจจุบันเกือบทั้งหมดใช้สถาปัตยกรรม Transformer ที่นำเสนอโดย Vaswani และเพื่อนร่วมงานในปี 2017 ซึ่งกลไกการให้ความสนใจช่วยให้โมเดลสามารถชั่งน้ำหนักทุกส่วนของข้อมูลนำเข้าเมื่อผลิตแต่ละคำ
การฝึกอบรมเกิดขึ้นในหลายขั้นตอน การฝึกอบรมเบื้องต้นบนคอร์ปัสข้อความขนาดใหญ่ช่วยสอนภาษาและความรู้ทั่วไป การปรับแต่งการสอนและข้อเสนอแนะแก่ผู้คนจะช่วยสอนโมเดลให้ปฏิบัติตามคำขอ รักษาการสนทนา และปฏิเสธบางงาน ในปี 2020 เอกสาร GPT-3 แสดงให้เห็นว่าโมเดลที่มีขนาดใหญ่พอสามารถทำงานใหม่จากตัวอย่างไม่กี่ตัวในคำสั่งได้ โดยไม่ต้องฝึกอบรมใหม่
สิ่งที่ LLM ไม่รู้
ความรู้ของ LLM ถูกแช่แข็งที่สิ้นสุดข้อมูลการฝึกอบรม และมันไม่เคยเห็นข้อมูลส่วนตัวของธุรกิจของคุณ: ราคา สต็อก นโยบายการคืนสินค้า คำสั่งซื้อของลูกค้า เมื่อถูกถามเกี่ยวกับสิ่งเหล่านี้ มันมักจะผลิตการเดาที่น่าเชื่อถือ — การหลอกลวง นอกจากนี้มันยังมีหน้าต่างบริบทที่จำกัด ซึ่งเป็นปริมาณข้อความที่มันสามารถพิจารณาได้ในครั้งเดียว
นั่นคือเหตุผลที่ผู้ช่วยธุรกิจที่มีประโยชน์มักจะไม่พึ่งพาโมเดลเพียงอย่างเดียว การสร้างที่เพิ่มขึ้นจากการดึงข้อมูล (RAG) จะป้อนข้อความที่เกี่ยวข้องจากเนื้อหาของคุณ และเครื่องมือจะช่วยให้มันค้นหาระบบสด เช่น แคตตาล็อกหรือฐานข้อมูลคำสั่งซื้อ
การเลือกโมเดล
โมเดลแตกต่างกันในคุณภาพของการให้เหตุผล ความเร็ว ราคาแต่ละโทเค็น ภาษา ที่พวกเขาจัดการได้ดี ขนาดบริบท และที่ที่พวกเขาโฮสต์ สำหรับบริการลูกค้า โมเดลขนาดกลางที่รวดเร็วมักจะเพียงพอสำหรับคำถามทั่วไป ในขณะที่กรณีที่ยากกว่า — นโยบายยาว คำขอหลายขั้นตอน — จะได้รับประโยชน์จากโมเดลที่แข็งแกร่งกว่า สถานที่ตั้งข้อมูลก็มีความสำคัญเช่นกัน: ธุรกิจในยุโรปอาจชอบโมเดลที่โฮสต์ในสหภาพยุโรป
โมเดลเป็นเพียงส่วนหนึ่งของผลลัพธ์ คำแนะนำ ข้อมูลพื้นฐาน เครื่องมือ และการประเมินในการสนทนาจริงมักจะมีความสำคัญมากกว่าการเปลี่ยนจากโมเดลชั้นนำหนึ่งไปอีกโมเดลหนึ่ง
LLMs ใน AI SmartTalk
ผู้ช่วย AI SmartTalk ถูกสร้างขึ้นรอบ ๆ LLMs และใช้โมเดลที่โฮสต์ในสหภาพยุโรปเป็นค่าเริ่มต้น; ลูกค้าสามารถเลือกใช้โมเดลของผู้ให้บริการรายอื่นแทน คำตอบของผู้ช่วยจะอิงจากเนื้อหาที่จัดทำดัชนีของธุรกิจและแคตตาล็อก และมันใช้เครื่องมือในการค้นหาข้อมูลสดแทนที่จะขอให้โมเดลจดจำ
คำถามที่พบบ่อย
ChatGPT เป็น LLM หรือไม่?
ChatGPT เป็นแอปพลิเคชันที่สร้างขึ้นบน LLMs ที่สร้างโดย OpenAI โมเดลจะสร้างข้อความ; แอปพลิเคชันจะเพิ่มส่วนติดต่อแชท หน่วยความจำการสนทนา เครื่องมือเช่นการค้นหาเว็บ และกฎความปลอดภัย
คำว่า “ใหญ่” ในโมเดลภาษาใหญ่หมายถึงอะไร?
มันหมายถึงจำนวนพารามิเตอร์ — น้ำหนักภายในที่เรียนรู้ในการฝึกอบรม ตั้งแต่พันล้านถึงหลายร้อยพันล้าน — และขนาดของคอร์ปัสการฝึกอบรม ไม่มีเกณฑ์ที่แน่นอน
LLM สามารถเรียนรู้จากข้อมูลของบริษัทฉันได้หรือไม่?
มีสองวิธีการ วิธีการปรับแต่งจะฝึกอบรมโมเดลใหม่จากตัวอย่างของคุณ ซึ่งมีค่าใช้จ่ายสูงและไม่สามารถติดตามข้อเท็จจริงที่เปลี่ยนแปลงได้ การสร้างที่เพิ่มขึ้นจากการดึงข้อมูลจะทำให้โมเดลไม่เปลี่ยนแปลงและให้ข้อความที่ถูกต้องในเวลาถามซึ่งเหมาะกับราคา สต็อก และนโยบายได้ดีกว่า
LLM ใช้งานได้อย่างปลอดภัยกับข้อมูลลูกค้าหรือไม่?
มันขึ้นอยู่กับเงื่อนไขของผู้ให้บริการ ที่ที่โมเดลถูกโฮสต์ และวิธีที่แอปพลิเคชันจัดการข้อมูลส่วนบุคคล ตรวจสอบว่าผู้ให้บริการใช้ข้อมูลของคุณในการฝึกอบรมหรือไม่ ที่ไหนที่มันถูกประมวลผล และมีข้อตกลงการประมวลผลข้อมูลหรือไม่