Återvinningsförstärkt generation (RAG)
Snabb definition
Retrieval-augmented generation (RAG) är en teknik där ett AI-system först hämtar relevanta avsnitt från en betrodd källa, såsom en kunskapsbas eller en produktkatalog, och ger dem till en språkmodell så att dess svar vilar på dessa avsnitt snarare än på dess minne ensamt.
På den här sidan
Varför RAG finns
En språkmodell lär sig från en fast ögonblicksbild av text. Den vet inte din returpolicy, dina aktuella priser eller produkten du lade till i morse, och när den frågas ändå kan den ge ett plausibelt men felaktigt svar. Att träna om en modell varje gång ditt innehåll ändras skulle vara långsamt och dyrt.
RAG löser detta genom att hålla kunskap utanför modellen. Ditt innehåll förblir i en sökbar lagring som du kan uppdatera när som helst; modellen ombeds endast att läsa de relevanta utdragen och formulera ett svar. Metoden beskrevs av Lewis och kollegor vid Facebook AI Research 2020.
Hur det fungerar, steg för steg
Först förbereds innehållet: dokument, webbsidor eller produktregister delas upp i avsnitt, och varje avsnitt omvandlas till en inbäddning — en lista med siffror som fångar dess betydelse. Dessa inbäddningar lagras i en vektorindex, ofta tillsammans med en klassisk nyckelordsindex.
När en fråga kommer in, omvandlas den på samma sätt och de närmaste avsnitten hämtas, ibland kombinerat med nyckelordsökning eller filter som språk eller kategori. De bästa avsnitten sätts in i modellens prompt med en instruktion att svara utifrån dem. Många system returnerar också källorna, så att läsaren kan kontrollera var svaret kom ifrån.
Begränsningar att känna till
RAG är bara så bra som det som hämtas. Om det rätta avsnittet saknas, är föråldrat eller dåligt uppdelat, svarar modellen utifrån fel utdrag eller faller tillbaka på sitt minne. Strukturerade frågor — "den billigaste jackan i lager i storlek M" — får dåligt stöd av likhetsökning ensamt och behöver filter på verkliga data. Och modellen kan fortfarande missförstå ett avsnitt, så svar på känsliga ämnen bör kontrolleras eller eskaleras.
Det är därför produktionssystem kombinerar RAG med strukturerad sökning, färskhetsregler som synkroniserar innehåll när det ändras, och tydliga instruktioner att säga när källorna inte innehåller svaret.
RAG i kundservice
För en support- eller e-handelsassistent är RAG det som låter agenten svara utifrån din FAQ, dina policyer och din katalog på kundens språk, och peka på sidan den använde. I AI SmartTalk indexeras den kunskap som en assistent svarar utifrån — webbsidor, dokument, FAQ-poster och synkroniserade produkter — på detta sätt, och produktfrågor använder också filter på pris, alternativ och lager.
Vanliga frågor
Är RAG detsamma som finjustering?
Nej. Finjustering ändrar modellens vikter genom att träna den på exempel; RAG lämnar modellen oförändrad och ger den rätt information vid frågetillfället. RAG är vanligtvis det bättre valet för fakta som förändras, såsom priser, lager eller policyer.
Stoppar RAG AI-hallucinationer?
Det minskar dem mycket, eftersom modellen svarar utifrån verkliga avsnitt, men det tar inte bort dem. Bra hämtning, en instruktion att erkänna när källorna är tysta, och en överlämning till en person för känsliga fall behövs fortfarande.
Vad är en vektordatabas?
Ett lager som indexerar inbäddningar så att de avsnitt som ligger närmast i betydelse till en fråga kan hittas snabbt. Det är det vanliga hämtagarlagret i ett RAG-system, ofta parat med nyckelordsökning.
Kan RAG fungera med en produktkatalog?
Ja, men produkter behöver mer än likhetsökning: en assistent bör filtrera på strukturerade fält som pris, storlek eller lager, och sedan använda RAG för beskrivningar och köpguider.