Informacijos paieška ir generavimas (RAG)
Greitas apibrėžimas
Informacijos paieška ir generavimas (RAG) yra technika, kurioje AI sistema pirmiausia suranda atitinkamus fragmentus iš patikimo šaltinio, pavyzdžiui, žinių bazės ar produktų katalogo, tada perduoda juos kalbos modeliui, kad jo atsakymas būtų pagrįstas šiais fragmentais, o ne tik jo atmintimi.
Šioje puslapio dalyje
Kodėl egzistuoja RAG
Kalbos modelis mokosi iš fiksuoto teksto momentinio vaizdo. Jis nežino jūsų grąžinimo politikos, dabartinių kainų ar produkto, kurį pridėjote šį rytą, ir kai paklaustas vis tiek gali pateikti įtikinamą, bet neteisingą atsakymą. Modelio perkvalifikavimas kiekvieną kartą, kai jūsų turinys keičiasi, būtų lėtas ir brangus.
RAG tai išsprendžia, laikydamas žinias už modelio ribų. Jūsų turinys lieka paieškos saugykloje, kurią galite atnaujinti bet kada; modelis tik prašomas perskaityti atitinkamus ištraukas ir suformuluoti atsakymą. Šis požiūris buvo aprašytas Lewiso ir kolegų Facebook AI Research 2020 metais.
Kaip tai veikia, žingsnis po žingsnio
Pirmiausia turinys paruošiamas: dokumentai, interneto puslapiai ar produktų įrašai yra padalinti į fragmentus, o kiekvienas fragmentas paverčiamas į embedding'ą — skaičių sąrašą, kuris atspindi jo prasmę. Šie embedding'ai yra saugomi vektorių indekse, dažnai kartu su klasikiniu raktinių žodžių indeksu.
Kai atkeliauja klausimas, jis konvertuojamas taip pat ir surandami artimiausi fragmentai, kartais derinami su raktinių žodžių paieška ar filtrais, tokiais kaip kalba ar kategorija. Geriausi fragmentai įterpiami į modelio užklausą su instrukcija atsakyti remiantis jais. Daugelis sistemų taip pat grąžina šaltinius, kad skaitytojas galėtų patikrinti, iš kur atsakymas gautas.
Ribos, apie kurias reikia žinoti
RAG yra toks geras, kaip tai, ką jis suranda. Jei tinkamas fragmentas trūksta, yra pasenęs arba prastai padalintas, modelis atsako iš neteisingos ištraukos arba grįžta prie savo atminties. Struktūrizuoti klausimai — „pigiausia striukė, turima M dydžio“ — yra prastai aptarnaujami vien tik panašumo paieškos ir reikalauja filtrų realiems duomenims. Ir modelis vis tiek gali neteisingai perskaityti fragmentą, todėl atsakymai jautriomis temomis turėtų būti patikrinti arba perduoti aukštesniam lygiui.
Būtent todėl gamybos sistemos derina RAG su struktūrizuota paieška, naujumo taisyklėmis, kurios atnaujina turinį, kai jis keičiasi, ir aiškiomis instrukcijomis, kad pasakytų, kai šaltiniai neturi atsakymo.
RAG klientų aptarnavime
Pagalbos ar elektroninės prekybos asistentui RAG yra tai, kas leidžia agentui atsakyti remiantis jūsų DUK, jūsų politikomis ir jūsų katalogu kliento kalba ir nurodyti puslapį, kurį jis naudojo. AI SmartTalk žinios, iš kurių asistentas atsako — interneto puslapiai, dokumentai, DUK įrašai ir sinchronizuoti produktai — yra indeksuojamos šiuo būdu, o produktų klausimai taip pat naudoja filtrus pagal kainą, pasirinkimus ir atsargas.
Dažnai užduodami klausimai
Ar RAG tas pats, kas ir smulkinimas?
Ne. Smulkinimas keičia modelio svorius, mokant jį pagal pavyzdžius; RAG palieka modelį nepakitusį ir suteikia jam tinkamą informaciją klausimo metu. RAG paprastai yra geresnis pasirinkimas faktams, kurie keičiasi, pavyzdžiui, kainoms, atsargoms ar politikoms.
Ar RAG sustabdo AI haliucinacijas?
Tai labai sumažina jas, nes modelis atsako remdamasis tikrais fragmentais, tačiau jų visiškai neišima. Geras paieškos rezultatas, instrukcija pripažinti, kai šaltiniai tyli, ir perdavimas asmeniui jautriais atvejais vis tiek yra būtini.
Kas yra vektorių duomenų bazė?
Saugykla, kuri indeksuoja embedding'us, kad fragmentai, artimiausi prasmės prasme klausimui, galėtų būti greitai randami. Tai yra įprasta RAG sistemos paieškos sluoksnis, dažnai derinamas su raktinių žodžių paieška.
Ar RAG gali dirbti su produktų katalogu?
Taip, tačiau produktams reikia daugiau nei panašumo paieškos: asistentas turėtų filtruoti pagal struktūrizuotus laukus, tokius kaip kaina, dydis ar atsargos, tada naudoti RAG aprašymams ir pirkimo gidams.