Ugrađivanja
Brza definicija
Ugrađivanje je spisak brojeva (vektor) koji predstavlja značenje teksta, slike ili drugog predmeta, tako da slični predmeti dobijaju blizu vektore. Ugrađivanja su ono što omogućava pretragu po značenju.
Na ovoj stranici
Kako ugrađivanja funkcionišu
Model ugrađivanja čita tekst i izlazi fiksno-dužinski vektor, obično nekoliko stotina do nekoliko hiljada brojeva. Model je obučen tako da tekstovi s povezanim značenjima završe blizu jedan drugog u tom prostoru: "politika povraćaja" i "kako da dobijem svoj novac nazad?" dele gotovo nijednu reč, ali proizvode bliske vektore.
Ideja se vraća na vektore reči kao što je word2vec (Mikolov i saradnici, 2013), koji su naučili da reči koje se pojavljuju u sličnim kontekstima imaju slična značenja. Modeli na nivou rečenica kao što je Sentence-BERT (2019) proširili su to na cele rečenice i odlomke, što je ono što pretraga i odgovaranje na pitanja zahteva.
Čemu služe
Ugradnje pokreću semantičko pretraživanje: upoređuju vektor pitanja sa vektorima sačuvanih pasusa i vraćaju najbliži. One su korak preuzimanja u generaciji obogaćenoj preuzimanjem (RAG). Takođe služe za grupisanje sličnih razgovora, otkrivanje duplikata, preporučivanje sličnih proizvoda i usmeravanje poruka na pravu temu.
Višejezički modeli ugradnje postavljaju pitanje na francuskom i pasus na engleskom blizu zajedno kada znače isto, što omogućava jednoj bazi znanja da služi kupcima na mnogo jezika.
Praktične tačke
Vektori iz različitih modela nisu uporedivi: ako promenite model ugradnje, svaki sačuvani pasus mora biti ponovo ugrađen. Ugradnje hvataju značenje, a ne tačne vrednosti, pa su loše za precizne filtere kao što su opseg cena ili referenca na proizvod — za to su potrebna strukturirana polja ili pretraga ključnih reči. A dugi dokumenti moraju biti podeljeni u pasuse pre ugradnje, jer jedan vektor za ceo priručnik zamagljuje njegov sadržaj.
Modeli ugradnje se takođe razlikuju u pokrivenosti jezika, dimenziji (i stoga troškovima skladištenja) i mestu gde su hostovani.
Ugradnje u AI SmartTalk
Svaki AI SmartTalk asistent koristi jedan model ugradnje za sve svoje znanje. Novi asistenti po defaultu koriste model više jezika hostovan u EU, a OpenAI modeli ugradnje su takođe dostupni. Vektori se čuvaju u PostgreSQL sa pgvector i kombinuju se sa pretragom ključnih reči i trigram pretragom, tako da se reference na proizvode i tačni termini nalaze pouzdano kao parafrazirana pitanja.
Često postavljana pitanja
Koja je razlika između ugradnje i tokena?
Token je deo teksta, otprilike fragment reči, koji model čita. Ugradnja je vektor brojeva koji predstavlja značenje — tokena, rečenice ili celog pasusa.
Da li su ugradnje isto što i vektorska baza podataka?
Ne. Ugradnje su vektori; vektorska baza podataka ili indeks ih čuva i brzo pronalazi najbliže.
Mogu li kasnije promeniti modele ugradnje?
Da, ali svaki sačuvani predmet mora biti ponovo ugrađen sa novim modelom, jer vektori iz različitih modela žive u različitim prostorima i ne mogu se upoređivati.