Генерација заснована на извлекување (RAG)
Брза дефиниција
Генерација заснована на извлекување (RAG) е техника во која AI системот прво извлекува релевантни пасуси од доверлив извор, како што е база на знаење или каталог на производи, а потоа им ги дава на јазичниот модел за да неговиот одговор се потпира на тие пасуси, а не само на неговата меморија.
На оваа страница
Зошто RAG постои
Јазичниот модел учи од фиксна снимка на текст. Тој не знае за вашата политика за враќање, вашите тековни цени или производот што го додадовте ова утро, и кога ќе биде запрашан, може да произведе веродостоен, но погрешен одговор. Повторното обука на моделот секој пат кога вашата содржина се менува би било бавно и скапо.
RAG го решава ова така што ја чува знаењето надвор од моделот. Вашата содржина останува во пребарлив складиште што можете да го ажурирате во секое време; моделот само се бара да ги прочита релевантните извлеци и да формулира одговор. Пристапот беше опишан од Левис и колеги во Facebook AI Research во 2020.
Како функционира, чекор по чекор
Прво, содржината се подготвува: документи, веб страници или записи на производи се делат на пасуси, а секој пасус се претвора во вектор — список на броеви што ја фаќа неговата значење. Овие вектори се чуваат во векторски индекс, често заедно со класичен индекс на клучни зборови.
Кога ќе пристигне прашање, се конвертира на ист начин и најблиските пасуси се извлекуваат, понекогаш комбинирани со пребарување по клучни зборови или филтри како што се јазик или категорија. Најдобрите пасуси се вметнуваат во упатството на моделот со инструкција да одговара од нив. Многу системи исто така враќаат извори, така што читателот може да провери од каде доаѓа одговорот.
Ограничувања за знаење
RAG е добар само колку што е тоа што го извлекува. Ако правилниот пасус недостасува, е застарен или лошо поделен, моделот одговара од погрешен извлек или се враќа на својата меморија. Структурираните прашања — "најевтината јакна во залиха во големина М" — се лошо услужени само со пребарување по сличност и потребни се филтри на реални податоци. И моделот може да погрешно прочита пасус, така што одговорите на чувствителни теми треба да се проверат или ескалираат.
Затоа производствените системи комбинираат RAG со структурирано пребарување, правила за свежина што повторно синхронизираат содржина кога се менува, и јасни инструкции да кажат кога изворите не содржат одговор.
RAG во корисничка служба
За асистент за поддршка или е-трговија, RAG е она што му овозможува на агентот да одговара од вашето ЧПП, вашите политики и вашиот каталог на јазикот на клиентот, и да укаже на страницата што ја користел. Во AI SmartTalk, знаењето од кое асистентот одговара — веб страници, документи, записи од ЧПП и синхронизирани производи — е индексирано на овој начин, а прашањата за производи исто така користат филтри за цена, опции и залиха.
Често поставувани прашања
Дали RAG е исто што и фино прилагодување?
Не. Финото прилагодување ги менува тежините на моделот со обука на примери; RAG го остава моделот непроменет и му дава правилни информации во време на прашање. RAG обично е подобар избор за факти што се менуваат, како што се цени, залиха или политики.
Дали RAG ги спречува AI халуцинациите?
Тие значително се намалуваат, бидејќи моделот одговара од реални пасуси, но не ги отстранува. Добро извлекување, инструкција да се признае кога изворите молчат, и пренос на лице за чувствителни случаи се уште се потребни.
Што е векторска база на податоци?
Складиште што индексира вектори за да можат пасусите најблиски во значење до прашањето да се најдат брзо. Тоа е вообичаениот слој за извлекување на RAG систем, често во пар со пребарување по клучни зборови.
Дали RAG може да работи со каталог на производи?
Да, но производите треба повеќе од пребарување по сличност: асистентот треба да филтрира по структурирани полиња како цена, големина или залиха, а потоа да користи RAG за описи и водичи за купување.