Teabe täiustatud genereerimine (RAG)
Kiire määratlus
Teabe täiustatud genereerimine (RAG) on tehnika, kus AI süsteem esmalt otsib usaldusväärsest allikast, näiteks teadmistebaasist või tootekataloogist, asjakohased lõigud ja edastab need keelemudelile, et selle vastus põhineks nende lõikude, mitte ainult selle mälul.
Sellel lehel
Miks RAG eksisteerib
Keelemudel õpib fikseeritud tekstist. Ta ei tea sinu tagastamispoliitikast, sinu praegustest hindadest ega tootest, mille sa täna hommikul lisasid, ja kui küsida, võib ta anda usutava, kuid vale vastuse. Mudeli uuesti koolitamine iga kord, kui sinu sisu muutub, oleks aeglane ja kallis.
RAG lahendab selle, hoides teadmised mudelist väljaspool. Sinu sisu jääb otsitavasse salvestusse, mida saad igal ajal uuendada; mudelit palutakse ainult lugeda asjakohaseid lõike ja sõnastada vastus. Selle lähenemise kirjeldasid Lewis ja tema kolleegid Facebook AI Researchis 2020. aastal.
Kuidas see töötab, samm-sammult
Esiteks valmistatakse sisu ette: dokumendid, veebilehed või tooteandmed jagatakse lõikudeks ja iga lõik muudetakse embedding'iks — numbrite loendiks, mis haarab selle tähenduse. Need embedding'id salvestatakse vektori indeksisse, sageli koos klassikalise märksõna indeksiga.
Kui küsimus saabub, muudetakse see samamoodi ja kõige lähemad lõigud leitakse, mõnikord koos märksõna otsingu või filtritega, nagu keel või kategooria. Parimad lõigud sisestatakse mudeli palvesse koos juhisega vastata nende põhjal. Paljud süsteemid tagastavad ka allikad, et lugeja saaks kontrollida, kust vastus tuli.
Piirangud, millest teada
RAG on sama hea kui see, mida ta leiab. Kui õige lõik puudub, on aegunud või halvasti jagatud, vastab mudel valele lõigule või toetub oma mälule. Struktureeritud küsimused — "odavaim jakk, mis on saadaval suuruses M" — ei saa ainult sarnasusotsingust piisavalt ja vajavad reaalsete andmete filtreid. Ja mudel võib ikka vale lõiku valesti tõlgendada, seega tuleks tundlikel teemadel vastuseid kontrollida või edastada edasi.
Seetõttu ühendavad tootmisüsteemid RAG-i struktureeritud otsinguga, värskenduse reeglitega, mis sünkroniseerivad sisu, kui see muutub, ja selgete juhistega, et öelda, kui allikad ei sisalda vastust.
RAG klienditeeninduses
Toe- või e-kaubanduse assistendi jaoks on RAG see, mis võimaldab agendil vastata sinu KKK-st, sinu poliitikatest ja sinu kataloogist kliendi keeles ning viidata lehele, mida ta kasutas. AI SmartTalk'is on teadmine, millest assistent vastab — veebilehe lehed, dokumendid, KKK kirjed ja sünkroniseeritud tooted — indekseeritud sellisel viisil, ja toote küsimused kasutavad samuti filtreid hinna, valikute ja laoseisu põhjal.
Korduma kippuvad küsimused
Kas RAG on sama mis peenhäälestamine?
Ei. Peenhäälestamine muudab mudeli kaalu, koolitades seda näidete põhjal; RAG jätab mudeli muutmata ja annab sellele õige teabe küsimise ajal. RAG on tavaliselt parem valik faktide jaoks, mis muutuvad, nagu hinnad, laoseis või poliitikad.
Kas RAG peatab AI hallutsinatsioonid?
See vähendab neid oluliselt, kuna mudel vastab reaalsetelt lõikudelt, kuid ei eemalda neid täielikult. Hea otsing, juhis tunnistada, kui allikad on vaiksed, ja tundlike juhtumite puhul inimesele edastamine on endiselt vajalik.
Mis on vektori andmebaas?
Salvestus, mis indekseerib embedding'eid, et lõike, mis on küsimusele tähenduse poolest kõige lähemal, saaks kiiresti leida. See on RAG süsteemi tavaline otsingukiht, sageli koos märksõna otsinguga.
Kas RAG saab töötada tootekataloogiga?
Jah, kuid tooted vajavad rohkem kui sarnasusotsing: assistent peaks filtreerima struktureeritud väljade, nagu hind, suurus või laoseis, põhjal, seejärel kasutama RAG-i kirjelduste ja ostujuhiste jaoks.