Informācijas iegūšanas papildināta ģenerācija (RAG)
Ātra definīcija
Informācijas iegūšanas papildināta ģenerācija (RAG) ir tehnika, kurā AI sistēma vispirms iegūst attiecīgus fragmentus no uzticama avota, piemēram, zināšanu bāzes vai produktu kataloga, un pēc tam tos nodod valodas modelim, lai tā atbilde balstītos uz šiem fragmentiem, nevis tikai uz tās atmiņu.
Šajā lapā
Kāpēc pastāv RAG
Valodas modelis mācās no fiksēta teksta attēla. Tam nav zināms jūsu atgriešanas politikas, jūsu pašreizējās cenas vai produkts, ko pievienojāt šorīt, un, kad to jautā, tas var sniegt ticamu, bet nepareizu atbildi. Modeļa apmācība katru reizi, kad jūsu saturs mainās, būtu lēna un dārga.
RAG to risina, saglabājot zināšanas ārpus modeļa. Jūsu saturs paliek meklējamā krātuvē, ko varat atjaunināt jebkurā laikā; modelim tiek lūgts tikai izlasīt attiecīgos izvilkumus un formulēt atbildi. Pieeju 2020. gadā aprakstīja Lūiss un kolēģi Facebook AI Research.
Kā tas darbojas, soli pa solim
Vispirms saturs tiek sagatavots: dokumenti, tīmekļa lapas vai produktu ieraksti tiek sadalīti fragmentos, un katrs fragments tiek pārvērsts par ieguldījumu — skaitļu sarakstu, kas atspoguļo tā nozīmi. Šie ieguldījumi tiek glabāti vektoru indeksā, bieži vien kopā ar klasisku atslēgvārdu indeksu.
Kad ierodas jautājums, tas tiek pārvērsts tādā pašā veidā un tiek iegūti tuvākie fragmenti, dažreiz apvienojot ar atslēgvārdu meklēšanu vai filtriem, piemēram, valodu vai kategoriju. Labākie fragmenti tiek ievietoti modeļa uzvednē ar instrukciju atbildēt no tiem. Daudzas sistēmas arī atgriež avotus, lai lasītājs varētu pārbaudīt, no kurienes nāk atbilde.
Ierobežojumi, par kuriem jāzina
RAG ir tikpat labs, cik labi tas iegūst. Ja pareizais fragments trūkst, ir novecojis vai slikti sadalīts, modelis atbild no nepareiza izvilkuma vai paļaujas uz savu atmiņu. Strukturēti jautājumi — "lētākā jaka krājumā izmērā M" — tiek slikti apkalpoti tikai ar līdzības meklēšanu un prasa filtrus uz reāliem datiem. Un modelis joprojām var nepareizi izlasīt fragmentu, tāpēc atbildes par jutīgiem tematiem jāizskata vai jāpaaugstina.
Tāpēc ražošanas sistēmas apvieno RAG ar strukturētu meklēšanu, svaiguma noteikumiem, kas atkārtoti sinhronizē saturu, kad tas mainās, un skaidrām instrukcijām, lai teiktu, kad avoti nesatur atbildi.
RAG klientu apkalpošanā
Atbalsta vai e-komercijas asistentam RAG ir tas, kas ļauj aģentam atbildēt no jūsu Biežāk uzdotajiem jautājumiem, jūsu politikām un jūsu kataloga klienta valodā un norādīt uz lapu, ko tas izmantoja. AI SmartTalk zināšanas, no kurām asistents atbild — tīmekļa lapas, dokumenti, Biežāk uzdotie jautājumi un sinhronizēti produkti — tiek indeksētas šādā veidā, un produktu jautājumi arī izmanto filtrus uz cenu, iespējām un krājumiem.
Biežāk uzdotie jautājumi
Vai RAG ir tas pats, kas finetuning?
Nē. Finetuning maina modeļa svarus, apmācot to uz piemēriem; RAG atstāj modeli nemainīgu un sniedz tam pareizo informāciju jautājuma laikā. RAG parasti ir labāka izvēle faktiem, kas mainās, piemēram, cenām, krājumiem vai politikām.
Vai RAG novērš AI halucinācijas?
Tas ļoti samazina tās, jo modelis atbild no reāliem fragmentiem, bet tas tās neiznīcina. Laba iegūšana, instrukcija atzīt, kad avoti ir klusējoši, un nodošana personai jutīgos gadījumos joprojām ir nepieciešama.
Kas ir vektoru datu bāze?
Krātuve, kas indeksē ieguldījumus, lai fragmentus, kas tuvāk nozīmei jautājumam, varētu ātri atrast. Tā ir parastā RAG sistēmas iegūšanas kārta, bieži vien apvienota ar atslēgvārdu meklēšanu.
Vai RAG var darboties ar produktu katalogu?
Jā, bet produktiem nepieciešams vairāk nekā līdzības meklēšana: asistentam vajadzētu filtrēt pēc strukturētām laukiem, piemēram, cenu, izmēru vai krājumu, un pēc tam izmantot RAG aprakstiem un pirkšanas ceļvežiem.