Embeddings
Hraðskilgreining
Embedding er listi af tölum (vettvangur) sem táknar merkingu texta, myndar eða annarra hluta, svo svipaðir hlutir fá nálægt vettvangi. Embeddings eru það sem gerir leit eftir merkingu mögulega.
Á þessari síðu
Hvernig embeddings virka
Embedding model les texta og framleiðir fastalengd vettvang, venjulega nokkur hundruð til nokkur þúsund tölur. Modelið er þjálfað þannig að textar með tengdum merkingum lendi nálægt hvor öðrum í því rými: "endurgreiðslustefna" og "hvernig fæ ég peningana mína aftur?" deila næstum engum orðum en framleiða nálægt vektorum.
Hugmyndin fer aftur til orðavettora eins og word2vec (Mikolov og samstarfsmenn, 2013), sem lærði að orð sem koma fyrir í svipuðum samhengi hafa svipaða merkingu. Setningarlíkön eins og Sentence-BERT (2019) framlengdu það til heilla setninga og kafla, sem er það sem leit og spurningarsvörun þarfnast.
Hvað þau eru notuð í
Embeddingar styrkja merkingaleit: bera saman vektor spurningar við vektora geymdra texta og skila þeim næst. Þau eru skrefið við að sækja upplýsingar í upplýsingasöfnun (RAG). Þau þjónusta einnig til að flokka svipaðar samræður, greina tvítekningar, mæla með svipuðum vörum og leiða skilaboð að réttu efni.
Fjöltyngd embedding módel setja spurningu á frönsku og texta á ensku nálægt hvort öðru þegar þau þýða sama hlutinn, sem gerir það að verkum að ein þekkingarsafn þjónar viðskiptavinum á mörgum tungumálum.
Praktísk atriði
Vektorar frá mismunandi módelum eru ekki samanburðarhæfir: ef þú breytir embedding módelinu, þarf að endur-embeddinga alla geymda texta. Embeddingar fanga merkingu, ekki nákvæm gildi, svo þau eru léleg við nákvæm síur eins og verðbil eða vöruvísun — þessir þurfa uppbyggð svæði eða leitarorðaleit meðfram. Og langar skjal þarf að skipta í texta áður en embedding, því einn vektor fyrir heila handbók óskýrir innihald hennar.
Embedding módel eru einnig mismunandi hvað varðar tungumál, vídd (og þar af leiðandi geymslukostnað) og hvar þau eru hýst.
Embeddingar í AI SmartTalk
Hver AI SmartTalk aðstoðarmaður notar eitt embedding módel fyrir alla þekkingu sína. Nýir aðstoðarmenn nota fjöltyngt módel hýst í ESB sjálfkrafa, og OpenAI embedding módel eru einnig tiltæk. Vektorarnir eru geymdir í PostgreSQL með pgvector og sameinaðir með leitarorðum og trigram leitar, svo að vöruvísanir og nákvæm hugtök finnast eins örugglega og endurorðuð spurningar.
Algengar spurningar
Hvað er munurinn á embedding og tákni?
Tákni er textabrot, að mestu leyti orðabrot, sem módel les. Embedding er vektor talna sem táknar merkingu — tákns, setningar eða heils texta.
Eru embeddingar eins og vektor gagnagrunnur?
Nei. Embeddingar eru vektorarnir; vektor gagnagrunnur eða skrá geymir þá og finnur þá næstu fljótt.
Get ég skipt um embedding módel síðar?
Já, en hver geymdur hlut þarf að vera endur-embeddingaður með nýja módelinu, því vektorar frá mismunandi módelum búa í mismunandi rýmum og geta ekki verið samanburðaðir.