Büyük dil modeli (LLM)
Hızlı tanım
Büyük bir dil modeli (LLM), bir sonraki kelimeyi tahmin etmek için çok büyük miktarda metin üzerinde eğitilmiş bir sinir ağıdır; bu da onun doğal dili anlamasını ve üretmesini sağlar. Modern sohbet botları ve AI ajanlarının arkasındaki akıl yürütme motorudur.
Bu sayfada
LLM nasıl çalışır
Bir LLM, metni token'lar olarak okur — kelime parçaları — ve her pozisyon için, her olası sonraki token'ın olasılığını hesaplar. Bir cevap üretmek, o tahmini token'ı tekrar tekrar üretmek anlamına gelir. Mevcut LLM'lerin neredeyse tamamı, 2017'de Vaswani ve arkadaşları tarafından tanıtılan Transformer mimarisini kullanır; bu mimarinin dikkat mekanizması, modelin her kelimeyi üretirken girdi metninin her parçasını değerlendirmesine olanak tanır.
Eğitim aşamalı olarak gerçekleşir. Devasa bir metin kümesi üzerinde ön eğitim, dil ve genel bilgi öğretir. Talimat ayarlama ve insanlardan gelen geri bildirim, ardından modele taleplere uymayı, bir diyalog sürdürmeyi ve bazı görevleri reddetmeyi öğretir. 2020'deki GPT-3 makalesi, yeterince büyük bir modelin, yeniden eğitim olmaksızın, istemdeki birkaç örnekten yeni görevleri yerine getirebileceğini gösterdi.
Bir LLM'nin bilmediği şeyler
Bir LLM'nin bilgisi, eğitim verilerinin sonundaki noktada donmuştur ve sizin işletmenizin özel bilgilerini hiç görmemiştir: fiyatlar, stok, iade politikası, müşteri siparişleri. Bu konularda sorulduğunda, genellikle makul bir tahmin — bir halüsinasyon — üretir. Ayrıca, bir seferde dikkate alabileceği metin miktarı olan sınırlı bir bağlam penceresine sahiptir.
Bu nedenle, yararlı iş asistanları genellikle yalnızca modele güvenmez. Alım artırıcı üretim (RAG), modelinize ilgili pasajları besler ve araçlar, modelin hatırlamasını istemek yerine canlı sistemleri sorgulamasına olanak tanır.
Bir model seçmek
Modeller, akıl yürütme kalitesi, hız, token başına fiyat, iyi işlediği diller, bağlam boyutu ve barındırıldıkları yer açısından farklılık gösterir. Müşteri hizmetleri için, hızlı ve orta boyutlu bir model genellikle rutin sorular için yeterlidir, daha zor durumlar — uzun politikalar, çok adımlı talepler — daha güçlü bir modelden fayda sağlar. Veri konumu da önemlidir: Avrupa'daki bir işletme, AB'de barındırılan bir modeli tercih edebilir.
Model, sonucun yalnızca bir parçasıdır. Talimatlar, temel veriler, araçlar ve gerçek konuşmalar üzerindeki değerlendirmeler genellikle bir önde gelen modelden diğerine geçmekten daha önemlidir.
LLM'ler AI SmartTalk'ta
AI SmartTalk asistanları, LLM'ler etrafında inşa edilmiştir ve varsayılan olarak AB'de barındırılan modelleri kullanır; bir müşteri, başka sağlayıcıların modellerini kullanmayı seçebilir. Asistanın cevapları, işletmenin indekslenmiş içeriğine ve kataloğuna dayanmaktadır ve modelin hatırlamasını istemek yerine canlı verileri sorgulamak için araçlar kullanır.
Sıkça sorulan sorular
ChatGPT bir LLM mi?
ChatGPT, OpenAI tarafından üretilen LLM'lerin üzerine inşa edilmiş bir uygulamadır. Model metin üretir; uygulama bir sohbet arayüzü, konuşma hafızası, web araması gibi araçlar ve güvenlik kuralları ekler.
Büyük dil modelinde “büyük” ne anlama geliyor?
Bu, eğitim sırasında öğrenilen içsel ağırlıkların sayısını — milyarlarca ile yüz milyarlarca arasında — ve eğitim kümesinin boyutunu ifade eder. Kesin bir eşik yoktur.
Bir LLM, şirketimin verilerinden öğrenebilir mi?
İki yaklaşım vardır. İnce ayar, modeli sizin örnekleriniz üzerinde yeniden eğitir; bu maliyetlidir ve değişen gerçeklerle güncel kalmaz. Alım artırıcı üretim, modeli değiştirmeden doğru pasajları soru anında sunar; bu, fiyatlar, stok ve politikalar için daha uygundur.
LLM'ler müşteri verileriyle kullanmak için güvenli mi?
Bu, sağlayıcının şartlarına, modelin barındırıldığı yere ve uygulamanın kişisel verileri nasıl işlediğine bağlıdır. Sağlayıcının verilerinizi eğitim için kullanıp kullanmadığını, nerede işlendiğini ve bir veri işleme anlaşmasının mevcut olup olmadığını kontrol edin.