Hakupohjainen generointi (RAG)
Nopea määritelmä
Hakupohjainen generointi (RAG) on tekniikka, jossa AI-järjestelmä ensin hakee asiaankuuluvia kohtia luotettavasta lähteestä, kuten tietopankista tai tuotekatalogista, ja antaa ne kielimallille, jotta sen vastaus perustuu näihin kohtiin eikä pelkästään sen muistiin.
Tällä sivulla
Miksi RAG on olemassa
Kielimalli oppii kiinteästä tekstin kuvasta. Se ei tiedä palautuskäytäntöäsi, nykyisiä hintoja tai tuotetta, jonka lisäsit tänä aamuna, ja kun kysytään, se voi tuottaa uskottavan mutta väärän vastauksen. Mallin uudelleenkouluttaminen joka kerta, kun sisältösi muuttuu, olisi hidasta ja kallista.
RAG ratkaisee tämän pitämällä tiedot mallin ulkopuolella. Sisältösi pysyy haettavassa varastossa, jota voit päivittää milloin tahansa; mallilta kysytään vain asiaankuuluvien otteiden lukemista ja vastauksen muotoilua. Lähestymistapa kuvattiin Lewis ja kollegat Facebook AI Researchissa vuonna 2020.
Miten se toimii, vaihe vaiheelta
Ensinnäkin sisältö valmistellaan: asiakirjat, verkkosivut tai tuotekirjaukset jaetaan kohtiin, ja jokainen kohta muutetaan upotukseksi — numeroiden listaksi, joka vangitsee sen merkityksen. Nämä upotukset tallennetaan vektori-indeksiin, usein yhdessä klassisen avainsanaindeksin kanssa.
Kun kysymys saapuu, se muunnetaan samalla tavalla ja lähimmät kohdat haetaan, joskus yhdistettynä avainsanahakuun tai suodattimiin, kuten kieli tai kategoria. Parhaat kohdat lisätään mallin kehotteeseen ohjeen kanssa vastata niistä. Monet järjestelmät palauttavat myös lähteet, jotta lukija voi tarkistaa, mistä vastaus tuli.
Rajoitukset, joista on hyvä tietää
RAG on vain niin hyvä kuin se, mitä se hakee. Jos oikea kohta puuttuu, on vanhentunut tai huonosti jaettu, malli vastaa väärästä otteesta tai turvautuu muistiinsa. Rakenteelliset kysymykset — "halvin takki varastossa koossa M" — eivät saa hyvää palvelua pelkästään samankaltaisuushauista ja tarvitsevat suodattimia todellisista tiedoista. Ja malli voi silti lukea kohtaa väärin, joten vastaukset arkaluontoisista aiheista tulisi tarkistaa tai nostaa esiin.
Siksi tuotantojärjestelmät yhdistävät RAG:n rakenteelliseen hakuun, tuoreus sääntöihin, jotka synkronoivat sisällön uudelleen, kun se muuttuu, ja selkeisiin ohjeisiin sanoa, kun lähteet eivät sisällä vastausta.
RAG asiakaspalvelussa
Tukipalvelu- tai verkkokauppa-assistentille RAG on se, mikä antaa agentille mahdollisuuden vastata usein kysyttyihin kysymyksiin, käytäntöihisi ja tuotekatalogiisi asiakkaan kielellä ja viitata käyttämäänsä sivuun. AI SmartTalkissa tieto, josta assistentti vastaa — verkkosivut, asiakirjat, usein kysytyt kysymykset ja synkronoidut tuotteet — indeksoidaan tällä tavalla, ja tuote kysymyksissä käytetään myös suodattimia hintaan, vaihtoehtoihin ja varastoon.
Usein kysytyt kysymykset
Onko RAG sama kuin hienosäätö?
Ei. Hienosäätö muuttaa mallin painoja kouluttamalla sitä esimerkeillä; RAG jättää mallin muuttumattomaksi ja antaa sille oikeat tiedot kysymyshetkellä. RAG on yleensä parempi valinta faktoille, jotka muuttuvat, kuten hinnat, varasto tai käytännöt.
Estääkö RAG AI-hallusinaatiot?
Se vähentää niitä paljon, koska malli vastaa todellisista kohdista, mutta se ei poista niitä. Hyvä haku, ohje myöntää, kun lähteet ovat hiljaa, ja siirto henkilölle arkaluontoisissa tapauksissa ovat edelleen tarpeen.
Mitä on vektoritietokanta?
Varasto, joka indeksoi upotuksia niin, että kysymykseen merkitykseltään lähimmät kohdat voidaan löytää nopeasti. Se on RAG-järjestelmän tavallinen hakukerros, usein yhdistettynä avainsanahakuun.
Voiko RAG toimia tuotekatalogin kanssa?
Kyllä, mutta tuotteet tarvitsevat enemmän kuin samankaltaisuushaku: avustajan tulisi suodattaa rakenteellisten kenttien, kuten hinnan, koon tai varaston mukaan, ja käyttää sitten RAG:ta kuvauksiin ja ostosoppaaseen.