Generacija obogaćena pretragom (RAG)
Brza definicija
Generacija obogaćena pretragom (RAG) je tehnika u kojoj AI sistem prvo preuzima relevantne odlomke iz pouzdane izvora, kao što su baza znanja ili katalog proizvoda, a zatim ih daje jezičkom modelu kako bi njegov odgovor bio zasnovan na tim odlomcima, a ne samo na njegovom pamćenju.
Na ovoj stranici
Zašto RAG postoji
Jezički model uči iz fiksnog snimka teksta. Ne zna vašu politiku vraćanja, vaše trenutne cene ili proizvod koji ste dodali jutros, i kada se to ipak pita, može dati verovatan, ali pogrešan odgovor. Ponovno obučavanje modela svaki put kada se vaš sadržaj promeni bilo bi sporo i skupo.
RAG to rešava tako što čuva znanje van modela. Vaš sadržaj ostaje u pretraživoj bazi koju možete ažurirati u bilo kojem trenutku; model se samo traži da pročita relevantne isječke i formuliše odgovor. Ovaj pristup opisali su Lewis i njegovi saradnici u Facebook AI Research-u 2020. godine.
Kako to funkcioniše, korak po korak
Prvo, sadržaj se priprema: dokumenti, web stranice ili zapisi o proizvodima se dele na odlomke, a svaki odlomak se pretvara u ugradnju — listu brojeva koja hvata njegovo značenje. Ove ugradnje se čuvaju u vektorskom indeksu, često zajedno sa klasičnim indeksom ključnih reči.
Kada pitanje stigne, ono se konvertuje na isti način i najbliži odlomci se preuzimaju, ponekad u kombinaciji sa pretragom ključnih reči ili filtrima kao što su jezik ili kategorija. Najbolji odlomci se umetnu u prompt modela sa instrukcijom da odgovori iz njih. Mnogi sistemi takođe vraćaju izvore, tako da čitalac može proveriti odakle je odgovor došao.
Granice koje treba znati
RAG je dobar koliko i ono što preuzima. Ako pravi odlomak nedostaje, zastareo je ili je loše podeljen, model odgovara iz pogrešnog isječka ili se oslanja na svoje pamćenje. Strukturalna pitanja — "najjeftinija jakna na skladištu u veličini M" — loše su opslužena samo pretragom sličnosti i zahtevaju filtre na stvarnim podacima. I model može još uvek pogrešno pročitati odlomak, tako da odgovore na osetljive teme treba proveriti ili eskalirati.
Zato proizvodni sistemi kombinuju RAG sa strukturiranom pretragom, pravilima svežine koja ponovo sinhronizuju sadržaj kada se promeni, i jasnim instrukcijama da kažu kada izvori ne sadrže odgovor.
RAG u korisničkoj podršci
Za asistenta za podršku ili e-trgovinu, RAG je ono što omogućava agentu da odgovara iz vaših FAQ, vaših politika i vašeg kataloga na jeziku kupca, i ukazuje na stranicu koju je koristio. U AI SmartTalk-u, znanje iz kojeg asistent odgovara — web stranice, dokumenti, unosi FAQ i sinhronizovani proizvodi — indeksira se na ovaj način, a pitanja o proizvodima takođe koriste filtre na cenu, opcije i skladište.
Često postavljana pitanja
Da li je RAG isto što i fino podešavanje?
Ne. Fino podešavanje menja težine modela obučavajući ga na primerima; RAG ostavlja model nepromenjenim i predaje mu prave informacije u vreme pitanja. RAG je obično bolji izbor za činjenice koje se menjaju, kao što su cene, skladište ili politike.
Da li RAG sprečava AI halucinacije?
Mnogo ih smanjuje, jer model odgovara iz stvarnih odlomaka, ali ih ne uklanja. Dobra pretraga, instrukcija da se prizna kada su izvori tihi, i prebacivanje na osobu za osetljive slučajeve su i dalje potrebni.
Šta je vektorska baza podataka?
Skladište koje indeksira ugradnje tako da se odlomci najbliži značenju pitanja mogu brzo pronaći. To je uobičajeni sloj pretrage RAG sistema, često uparen sa pretragom ključnih reči.
Može li RAG raditi sa katalogom proizvoda?
Da, ali proizvodi zahtevaju više od pretrage sličnosti: asistent treba da filtrira po strukturiranim poljima kao što su cena, veličina ili skladište, a zatim koristi RAG za opise i vodiče za kupovinu.