Retrieve artırılmış üretim (RAG)
Hızlı tanım
Retrieve artırılmış üretim (RAG), bir AI sisteminin önce güvenilir bir kaynaktan, örneğin bir bilgi tabanından veya bir ürün kataloğundan ilgili pasajları alıp, ardından bunları bir dil modeline vererek yanıtını bu pasajlara dayandırdığı bir tekniktir.
Bu sayfada
RAG neden var
Bir dil modeli, sabit bir metin anlık görüntüsünden öğrenir. İade politikanızı, mevcut fiyatlarınızı veya bu sabah eklediğiniz ürünü bilmez ve yine de sorulduğunda makul ama yanlış bir yanıt üretebilir. İçeriğiniz her değiştiğinde bir modeli yeniden eğitmek yavaş ve pahalı olur.
RAG, bilgiyi modelin dışında tutarak bunu çözer. İçeriğiniz, istediğiniz zaman güncelleyebileceğiniz arama yapılabilir bir depoda kalır; model yalnızca ilgili alıntıları okumak ve bir yanıt oluşturmak için istenir. Bu yaklaşım, 2020 yılında Lewis ve Facebook AI Research'teki meslektaşları tarafından tanımlanmıştır.
Nasıl çalışır, adım adım
Öncelikle, içerik hazırlanır: belgeler, web sayfaları veya ürün kayıtları pasajlara bölünür ve her pasaj bir gömme haline getirilir - anlamını yakalayan bir sayı listesi. Bu gömmeler, genellikle klasik bir anahtar kelime diziniyle birlikte bir vektör indeksinde saklanır.
Bir soru geldiğinde, aynı şekilde dönüştürülür ve en yakın pasajlar alınır, bazen anahtar kelime araması veya dil ya da kategori gibi filtrelerle birleştirilir. En iyi pasajlar, onlardan yanıt vermesi için modele eklenir. Birçok sistem ayrıca kaynakları da döndürür, böylece okuyucu yanıtın nereden geldiğini kontrol edebilir.
Bilmeniz gereken sınırlamalar
RAG, yalnızca neyi alıyorsa o kadar iyidir. Doğru pasaj eksikse, güncel değilse veya kötü bölünmüşse, model yanlış alıntıdan yanıt verir veya belleğine geri döner. Yapılandırılmış sorular - "stokta M bedende en ucuz ceket" - yalnızca benzerlik aramasıyla kötü bir şekilde karşılanır ve gerçek veriler üzerinde filtrelere ihtiyaç duyar. Ve model hala bir pasajı yanlış okuyabilir, bu nedenle hassas konulardaki yanıtlar kontrol edilmeli veya yükseltilmelidir.
Bu nedenle, üretim sistemleri RAG'ı yapılandırılmış arama, içerik değiştiğinde yeniden senkronize eden tazelik kuralları ve kaynakların yanıtı içermediğini belirtmek için net talimatlarla birleştirir.
RAG müşteri hizmetlerinde
Bir destek veya e-ticaret asistanı için RAG, ajanın müşteri dilinde SSS'nizden, politikalarınızdan ve kataloğunuzdan yanıt vermesini sağlar ve kullandığı sayfaya işaret eder. AI SmartTalk'ta, bir asistanın yanıt verdiği bilgi - web sayfaları, belgeler, SSS girişleri ve senkronize ürünler - bu şekilde dizinlenir ve ürün soruları ayrıca fiyat, seçenekler ve stok üzerinde filtreler kullanır.
Sıkça sorulan sorular
RAG, ince ayar yapmakla aynı mı?
Hayır. İnce ayar, modeli örnekler üzerinde eğiterek ağırlıklarını değiştirir; RAG modeli değiştirmeden doğru bilgiyi soru anında ona verir. RAG genellikle fiyatlar, stok veya politikalar gibi değişen gerçekler için daha iyi bir seçimdir.
RAG, AI halüsinasyonlarını durdurur mu?
Bunları büyük ölçüde azaltır, çünkü model gerçek pasajlardan yanıt verir, ancak bunları ortadan kaldırmaz. İyi bir alım, kaynakların sessiz olduğunda kabul etme talimatı ve hassas durumlar için birine devretme hala gereklidir.
Vektör veritabanı nedir?
Bir soruya anlam olarak en yakın pasajların hızlı bir şekilde bulunabilmesi için gömmeleri dizinleyen bir depodur. RAG sisteminin genellikle kullanılan alım katmanıdır ve genellikle anahtar kelime araması ile eşleştirilir.
RAG, bir ürün kataloğuyla çalışabilir mi?
Evet, ancak ürünler yalnızca benzerlik aramasıyla yetinemez: bir asistan, fiyat, boyut veya stok gibi yapılandırılmış alanlar üzerinde filtreleme yapmalı, ardından açıklamalar ve satın alma kılavuzları için RAG kullanmalıdır.