Herwinning-augmented generasie (RAG)
Vinige definisie
Herwinning-augmented generasie (RAG) is 'n tegniek waarin 'n KI-stelsel eers relevante gedeeltes van 'n betroubare bron, soos 'n kennisbasis of 'n produk katalogus, opsoek, en dit dan aan 'n taalmodel gee sodat sy antwoord op daardie gedeeltes berus eerder as op sy geheue alleen.
Op hierdie bladsy
Waarom RAG bestaan
‘n Taalmodel leer uit 'n vaste momentopname van teks. Dit weet nie jou terugkeerbeleid, jou huidige pryse of die produk wat jy vanoggend bygevoeg het nie, en wanneer dit tog gevra word, kan dit 'n geloofwaardige maar verkeerde antwoord gee. Om 'n model elke keer te hertrain wanneer jou inhoud verander, sou stadig en duur wees.
RAG los dit op deur kennis buite die model te hou. Jou inhoud bly in 'n soekbare stoor wat jy enige tyd kan opdateer; die model word net gevra om die relevante uittreksels te lees en 'n antwoord te formuleer. Die benadering is in 2020 deur Lewis en kollegas by Facebook AI Research beskryf.
Hoe dit werk, stap vir stap
Eerstens, die inhoud word voorberei: dokumente, webbladsye of produkrekords word in gedeeltes verdeel, en elke gedeelte word in 'n embedding omgeskakel — 'n lys van getalle wat sy betekenis vasvang. Hierdie embeddings word in 'n vektorindeks gestoor, dikwels langs 'n klassieke sleutelwoordindeks.
Wanneer 'n vraag aankom, word dit op dieselfde manier omgeskakel en die naaste gedeeltes word opgehaal, soms gekombineer met sleutelwoordsoek of filters soos taal of kategorie. Die beste gedeeltes word in die model se prompt ingevoeg met 'n instruksie om daaruit te antwoord. Baie stelsels lewer ook die bronne terug, sodat die leser kan nagaan waar die antwoord vandaan kom.
Beperkings om van bewus te wees
RAG is net so goed soos wat dit opsoek. As die regte gedeelte ontbreek, verouderd of sleg verdeel is, antwoord die model uit die verkeerde uittreksel of val terug op sy geheue. Gestructureerde vrae — "die goedkoopste baadjie in voorraad in grootte M" — word swak bedien deur net similariteitssoek en benodig filters op werklike data. En die model kan steeds 'n gedeelte verkeerd lees, so antwoorde oor sensitiewe onderwerpe moet nagegaan of opgeskaal word.
Dit is waarom produksiesisteme RAG kombineer met gestructureerde soektog, varsheidsreëls wat inhoud weer sink wanneer dit verander, en duidelike instruksies om te sê wanneer die bronne nie die antwoord bevat nie.
RAG in kliëntediens
Vir 'n ondersteunings- of e-handel assistent, is RAG wat die agent laat antwoord gee uit jou FAQ, jou beleid en jou katalogus in die kliënt se taal, en na die bladsy verwys wat gebruik is. In AI SmartTalk, is die kennis waaruit 'n assistent antwoord gee — webbladsy, dokumente, FAQ-invoere en gesinkroniseerde produkte — op hierdie manier geindexeer, en produkvrae gebruik ook filters op prys, opsies en voorraad.
Gereelde vrae
Is RAG dieselfde as fyn-afstemming?
Nee. Fyn-afstemming verander die model se gewigte deur dit op voorbeelde te train; RAG laat die model onveranderd en gee dit die regte inligting tydens die vraag. RAG is gewoonlik die beter keuse vir feite wat verander, soos pryse, voorraad of beleid.
Stop RAG KI-hallusinasies?
Dit verminder hulle baie, omdat die model uit werklike gedeeltes antwoord gee, maar dit verwyder hulle nie. Goeie herwinning, 'n instruksie om te erken wanneer die bronne stil is, en 'n oorgang na 'n persoon vir sensitiewe gevalle is steeds nodig.
Wat is 'n vektor databasis?
‘n Stoor wat embeddings indekseer sodat die gedeeltes wat die naaste in betekenis aan 'n vraag is, vinnig gevind kan word. Dit is die gewone herwinningslaag van 'n RAG-stelsel, dikwels saam met sleutelwoordsoek.
Kan RAG met 'n produk katalogus werk?
Ja, maar produkte benodig meer as net similariteitssoek: 'n assistent moet filter op gestructureerde velde soos prys, grootte of voorraad, en dan RAG gebruik vir beskrywings en koopgidsen.