Aukagögnun (RAG)
Hraðskilgreining
Retrieval-augmented generation (RAG) er tækni þar sem AI kerfi sækir fyrst viðeigandi texta úr traustum heimildum, svo sem þekkingargrunn eða vörulista, og gefur þá til tungumálalíkans svo að svar þess byggist á þessum textum frekar en á minni þess einungis.
Á þessari síðu
Af hverju RAG er til
Tungumálalíkan lærir af föstu útliti texta. Það veit ekki um skilmála þína, núverandi verð eða vöruna sem þú bætti við í morgun, og þegar það er spurð, getur það framleitt trúverðugt en rangt svar. Að þjálfa líkan aftur í hvert sinn sem efni þitt breytist væri hægt og dýrt.
RAG leysir þetta með því að halda þekkingu utan líkanins. Efni þitt er í leitarhæfu geymslu sem þú getur uppfært hvenær sem er; líkanið er aðeins beðið um að lesa viðeigandi útdrætti og orða svar. Aðferðin var lýst af Lewis og samstarfsmönnum hans hjá Facebook AI Research árið 2020.
Hvernig það virkar, skref fyrir skref
Fyrst er efnið undirbúið: skjöl, vefsíður eða vörurekningar eru skipt í texta, og hver texti er breytt í embedding — lista af tölum sem fangar merkingu hans. Þessar embeddings eru geymdar í vektoraindex, oft ásamt hefðbundnum lykilorðaskrá.
Þegar spurning kemur, er hún breytt á sama hátt og næstu textar eru sóttir, stundum sameinaðir við lykilorðaleit eða síur eins og tungumál eða flokk. Bestu textarnir eru settir inn í fyrirmæli líkanins með leiðbeiningu um að svara út frá þeim. Margar kerfi skila einnig heimildum, svo lesandinn getur athugað hvar svarið kom frá.
Takmarkanir sem þarf að vita um
RAG er aðeins eins gott og það sem það sækir. Ef rétti textinn vantar, er úreltur eða illa skipt, svarar líkanið út frá rangri útdrætti eða fellur aftur á minni þess. Strúktúrerðar spurningar — "ódýrasta jakkan í birgðum í stærð M" — eru illa þjónustaðar með svipaðri leit einungis og þurfa síur á raunverulegum gögnum. Og líkanið getur enn misskilið texta, svo svör um viðkvæm efni ættu að vera athuguð eða færð til manns.
RAG í þjónustu við viðskiptavini
Fyrir stuðnings- eða netverslunar aðstoðarmann, er RAG það sem leyfir aðstoðarmanninum að svara út frá FAQ þínu, skilmálum þínum og vörulista á tungumáli viðskiptavinarins, og benda á síðuna sem notuð var. Í AI SmartTalk er þekkingin sem aðstoðarmaðurinn svarar út frá — vefsíður, skjöl, FAQ færslur og samstilltar vörur — skráð á þennan hátt, og vöruspurningar nota einnig síur á verði, valkostum og birgðum.
Algengar spurningar
Er RAG það sama og fínstillt?
Nei. Fínstilling breytir þyngdum líkanins með því að þjálfa það á dæmum; RAG heldur líkaninu óbreyttu og gefur því réttu upplýsingarnar þegar spurt er. RAG er venjulega betri kostur fyrir staðreyndir sem breytast, svo sem verð, birgðir eða skilmála.
Hætti RAG AI draumum?
Það minnkar þau mikið, því að líkanið svarar út frá raunverulegum textum, en það fjarlægir þau ekki. Góð sókn, leiðbeining um að viðurkenna þegar heimildirnar eru þagnar, og aðstoð við mann fyrir viðkvæm mál eru ennþá nauðsynleg.
Hvað er vektordatabase?
Geymsla sem skráir embeddings svo að textar sem eru næst merkingu spurningarinnar geti fundist fljótt. Það er venjulega sóknarlag RAG kerfis, oft parað við lykilorðaleit.
Getur RAG unnið með vörulista?
Já, en vörur þurfa meira en svipaða leit: aðstoðarmaður ætti að sía eftir strúktúruðum sviðum eins og verði, stærð eða birgðum, og nota síðan RAG fyrir lýsingar og kaupleiðbeiningar.