Generovanie obohatené vyhľadávaním (RAG)
Rýchla definícia
Generovanie obohatené vyhľadávaním (RAG) je technika, pri ktorej AI systém najprv vyhľadá relevantné pasáže z dôveryhodného zdroja, ako je databáza znalostí alebo katalóg produktov, a potom ich poskytne jazykovému modelu, aby jeho odpoveď spočívala na týchto pasážach a nie len na jeho pamäti.
Na tejto stránke
Prečo RAG existuje
Jazykový model sa učí z pevného snímku textu. Nevie vašu politiku vrátenia, vaše aktuálne ceny ani produkt, ktorý ste pridali dnes ráno, a keď sa na to opýta, môže poskytnúť presvedčivú, ale nesprávnu odpoveď. Preškolenie modelu zakaždým, keď sa váš obsah zmení, by bolo pomalé a drahé.
RAG to rieši tým, že uchováva vedomosti mimo modelu. Váš obsah zostáva v vyhľadávateľnom úložisku, ktoré môžete kedykoľvek aktualizovať; model je požiadaný len o prečítanie relevantných úryvkov a formulovanie odpovede. Tento prístup opísali Lewis a kolegovia vo Facebook AI Research v roku 2020.
Ako to funguje, krok za krokom
Najprv sa obsah pripraví: dokumenty, webové stránky alebo záznamy produktov sa rozdelia na pasáže a každá pasáž sa premení na embedding — zoznam čísel, ktorý zachytáva jej význam. Tieto embeddings sú uložené v vektorovom indexe, často spolu s klasickým indexom kľúčových slov.
Keď príde otázka, premení sa rovnakým spôsobom a najbližšie pasáže sa vyhľadajú, niekedy kombinované s vyhľadávaním kľúčových slov alebo filtrami ako jazyk alebo kategória. Najlepšie pasáže sú vložené do výzvy modelu s pokynom odpovedať na ich základe. Mnohé systémy tiež vracajú zdroje, takže čitateľ môže skontrolovať, odkiaľ odpoveď pochádza.
Obmedzenia, o ktorých je dobré vedieť
RAG je len tak dobrý, ako to, čo vyhľadáva. Ak chýba správna pasáž, je zastaraná alebo zle rozdelená, model odpovedá z nesprávneho úryvku alebo sa vracia k svojej pamäti. Štruktúrované otázky — "najlacnejšia bunda na sklade vo veľkosti M" — sú zle obslúžené len vyhľadávaním podobnosti a potrebujú filtre na reálne údaje. A model môže stále nesprávne prečítať pasáž, takže odpovede na citlivé témy by mali byť skontrolované alebo eskalované.
Preto výrobné systémy kombinujú RAG so štruktúrovaným vyhľadávaním, pravidlami čerstvosti, ktoré znovu synchronizujú obsah, keď sa zmení, a jasnými pokynmi, aby sa povedalo, keď zdroje neobsahujú odpoveď.
RAG v zákazníckej podpore
Pre asistenta podpory alebo e-commerce je RAG to, čo umožňuje agentovi odpovedať na základe vašich FAQ, vašich politík a vášho katalógu v jazyku zákazníka a ukázať na stránku, ktorú použil. V AI SmartTalk sú vedomosti, z ktorých asistent odpovedá — webové stránky, dokumenty, položky FAQ a synchronizované produkty — indexované týmto spôsobom a otázky o produktoch tiež používajú filtre na cenu, možnosti a sklad.
Často kladené otázky
Je RAG to isté ako jemné doladenie?
Nie. Jemné doladenie mení váhy modelu tým, že ho trénuje na príkladoch; RAG necháva model nezmenený a poskytuje mu správne informácie v čase otázky. RAG je zvyčajne lepšou voľbou pre fakty, ktoré sa menia, ako sú ceny, sklad alebo politiky.
Zastaví RAG halucinácie AI?
Veľmi ich znižuje, pretože model odpovedá z reálnych pasáží, ale neodstraňuje ich. Dobrý prístup k vyhľadávaniu, pokyn na priznanie, keď sú zdroje tiché, a odovzdanie na osobu pre citlivé prípady sú stále potrebné.
Čo je vektorová databáza?
Úložisko, ktoré indexuje embeddings, aby sa pasáže najbližšie významom k otázke dali rýchlo nájsť. Je to obvyklá vrstva vyhľadávania v systéme RAG, často spárovaná s vyhľadávaním kľúčových slov.
Môže RAG pracovať s katalógom produktov?
Áno, ale produkty potrebujú viac ako len vyhľadávanie podobnosti: asistent by mal filtrovať na štruktúrovaných poliach, ako sú cena, veľkosť alebo sklad, a potom použiť RAG na popisy a nákupné sprievodcov.