Уграђивања
Brza definicija
Уграђивање је списак бројева (вектор) који представља значење текста, слике или другог предмета, тако да слични предмети добијају близу векторе. Уграђивања су оно што омогућава претрагу по значењу.
Na ovoj stranici
Како уграђивања функционишу
Модел уграђивања чита текст и излази фиксно-дужински вектор, обично неколико стотина до неколико хиљада бројева. Модел је обучен тако да текстови с повезаним значењима заврше близу један другог у том простору: "политика повраћаја" и "како да добијем свој новац назад?" деле готово ниједну реч, али производе блиске векторе.
Идеја се враћа на векторе речи као што је word2vec (Миколов и сарадници, 2013), који су научили да речи које се појављују у сличним контекстима имају слична значења. Модели на нивоу реченица као што је Sentence-BERT (2019) проширили су то на целе реченице и одломке, што је оно што претрага и одговарање на питања захтева.
Čemu služe
Ugradnje pokreću semantičko pretraživanje: upoređuju vektor pitanja sa vektorima sačuvanih pasusa i vraćaju najbliži. One su korak preuzimanja u generaciji obogaćenoj preuzimanjem (RAG). Takođe služe za grupisanje sličnih razgovora, otkrivanje duplikata, preporučivanje sličnih proizvoda i usmeravanje poruka na pravu temu.
Višejezički modeli ugradnje postavljaju pitanje na francuskom i pasus na engleskom blizu zajedno kada znače isto, što omogućava jednoj bazi znanja da služi kupcima na mnogo jezika.
Praktične tačke
Vektori iz različitih modela nisu uporedivi: ako promenite model ugradnje, svaki sačuvani pasus mora biti ponovo ugrađen. Ugradnje hvataju značenje, a ne tačne vrednosti, pa su loše za precizne filtere kao što su opseg cena ili referenca na proizvod — za to su potrebna strukturirana polja ili pretraga ključnih reči. A dugi dokumenti moraju biti podeljeni u pasuse pre ugradnje, jer jedan vektor za ceo priručnik zamagljuje njegov sadržaj.
Modeli ugradnje se takođe razlikuju u pokrivenosti jezika, dimenziji (i stoga troškovima skladištenja) i mestu gde su hostovani.
Ugradnje u AI SmartTalk
Svaki AI SmartTalk asistent koristi jedan model ugradnje za sve svoje znanje. Novi asistenti po defaultu koriste model više jezika hostovan u EU, a OpenAI modeli ugradnje su takođe dostupni. Vektori se čuvaju u PostgreSQL sa pgvector i kombinuju se sa pretragom ključnih reči i trigram pretragom, tako da se reference na proizvode i tačni termini nalaze pouzdano kao parafrazirana pitanja.
Često postavljana pitanja
Koja je razlika između ugradnje i tokena?
Token je deo teksta, otprilike fragment reči, koji model čita. Ugradnja je vektor brojeva koji predstavlja značenje — tokena, rečenice ili celog pasusa.
Da li su ugradnje isto što i vektorska baza podataka?
Ne. Ugradnje su vektori; vektorska baza podataka ili indeks ih čuva i brzo pronalazi najbliže.
Mogu li kasnije promeniti modele ugradnje?
Da, ali svaki sačuvani predmet mora biti ponovo ugrađen sa novim modelom, jer vektori iz različitih modela žive u različitim prostorima i ne mogu se upoređivati.