Retrieval-augmented Generatioun (RAG)
Schnelldefinitioun
Retrieval-augmented generation (RAG) ass eng Technik, bei där e AI System éischt d'äntlech Passagen aus enger vertrauter Quell, wéi eng Wëssensbasis oder e Produktkatalog, recuperéiert, an dës dann un e Sproochmodell gëtt, sou datt seng Äntwert op dëse Passagen baséiert an net nëmmen op sengem Gedächtnis.
Auf dëser Säit
Firwat existéiert RAG
E Sproochmodell léiert aus engem fest Snapshot vum Text. Et weess net iwwer Är Retourpolitik, Är aktuell Präisser oder d'Produkt, dat Dir dësen Moie bäigefüügt hutt, an wann et trotzdem gefrot gëtt, kann et eng plausibel awer falsch Äntwert produzéieren. E Modell all Kéier nei ze trainéieren wann Ären Inhalt ännert, wier lues a deier.
RAG léisst dëst duerch d'Wëssen ausserhalb vum Modell ze halen. Ären Inhalt bleift an engem sichbare Lager, dat Dir zu all Moment aktualiséiere kënnt; d'Modell gëtt nëmmen gefrot, déi relevant Auszich ze liesen an eng Äntwert ze formuléieren. D'Approche gouf 2020 vum Lewis a sengem Team bei Facebook AI Research beschriwwen.
Wéi et funktionnéiert, Schrëtt fir Schrëtt
Éischtens, den Inhalt gëtt preparéiert: Dokumenter, Websäiten oder Produktopnamen ginn an Passagen opgedeelt, an all Passage gëtt an eng Embedding verwandelegt - eng Lëscht vu Zuelen, déi seng Bedeitung erfaasst. Dës Embeddings ginn an engem Vektorindex gespäichert, oft an Zesummenaarbecht mat engem klassesche Schlüsselwiederindex.
Wann eng Fro kënnt, gëtt se op déi selwecht Manéier konvertéiert an d'äntlech Passagen ginn recuperéiert, heiansdo kombinéiert mat Schlüsselwieder Sich oder Filter wéi Sprooch oder Kategorie. D'Bescht Passagen ginn an den Prompt vum Modell mat enger Instruktioun fir vun hinnen ze äntweren. Vill Systemer ginn och d'Quellen zréck, sou datt de Lieser kann iwwerpréiwen, wou d'Äntwert hierkënnt.
Grenzen déi een wësse soll
RAG ass nëmmen sou gutt wéi wat et recuperéiert. Wann d'Richteg Passage feelt, veraltet oder schlecht opgedeelt ass, äntwert d'Modell vun der falscher Auszich oder fällt zréck op sengem Gedächtnis. Strukturéiert Froen - "déi bëllegst Jackett am Lager an Gréisst M" - ginn schlecht servéiert duerch Ähnlechkeetsuch eleng an brauchen Filter op reelle Daten. A d'Modell kann nach ëmmer eng Passage falsch liesen, sou datt Äntwerten iwwer sensibel Themen sollten iwwerpréift oder eskaléiert ginn.
Dofir kombinéieren Produktiounssystemer RAG mat strukturéierter Sich, Frëschregels déi de Inhalt synchroniséieren wann et ännert, an kloer Instruktiounen fir ze soen wann d'Quellen d'Äntwert net enthalen.
RAG am Clientservice
Fir e Support- oder E-Commerce-Assistent ass RAG wat de Agent erlaabt, aus Ärer FAQ, Ären Politik a Ärem Katalog an der Sprooch vum Client ze äntweren, an op d'Page ze weisen, déi et benotzt huet. An AI SmartTalk ass d'Wëssen, aus dem en Assistent äntwert - Websäit Säiten, Dokumenter, FAQ-Einträg an synchroniséiert Produkter - esou indexéiert, an d'Produktfro benotzt och Filter op Präis, Optiounen a Lager.
Froën déi oft gestallt ginn
Ass RAG dat selwecht wéi Fine-Tuning?
Nee. Fine-Tuning ännert d'Gewiichter vum Modell duerch et op Beispiller ze trainéieren; RAG léisst d'Modell onverännert a gëtt et déi richteg Informatioun zur Frozäit. RAG ass normalerweis déi besser Wiel fir Fakten déi änneren, wéi Präisser, Lager oder Politik.
Hält RAG AI Halluzinatiounen op?
Et reduzéiert si vill, well d'Modell aus reellen Passagen äntwert, awer et läscht se net. Gut Recuperatioun, eng Instruktioun fir zezugeben wann d'Quellen schwaach sinn, an eng Iwwergabe un eng Persoun fir sensibel Fäll sinn nach ëmmer néideg.
Wat ass eng Vektor-Datenbank?
E Lager dat Embeddings indexéiert sou datt d'Passagen déi am noosten an der Bedeitung zu enger Fro kënne séier fonnt ginn. Et ass d'gewéinlech Recuperatiounsschicht vun engem RAG System, oft begleet vun Schlüsselwieder Sich.
Kann RAG mat engem Produktkatalog funktionéieren?
Jo, awer Produkter brauchen méi wéi Ähnlechkeetsuch: e Assistent sollt op strukturéiert Felder wéi Präis, Gréisst oder Lager filteren, an dann RAG fir Beschreiwungen a Kafsguides benotzen.