Inbedings
Vinige definisie
‘n Inbeding is ‘n lys getalle (‘n vektor) wat die betekenis van ‘n teks, beeld of ander item voorstel, sodat soortgelyke items naby vektore kry. Inbedings is wat soek op betekenis moontlik maak.
Op hierdie bladsy
Hoe inbedings werk
‘n Inbedingmodel lees ‘n teks en gee ‘n vaste-lengte vektor uit, tipies verskeie honderde tot ‘n paar duisend getalle. Die model is opgelei sodat teks met verwante betekenisse naby mekaar in daardie ruimte land: “terugbetalingsbeleid” en “hoe kry ek my geld terug?” deel amper geen woorde nie, maar produseer naby vektore.
Die idee gaan terug na woordvektore soos word2vec (Mikolov en kollegas, 2013), wat geleer het dat woorde wat in soortgelyke kontekste voorkom soortgelyke betekenisse het. Sinvlakmodelle soos Sentence-BERT (2019) het dit uitgebrei na hele sinne en gedeeltes, wat is wat soek en vrae beantwoord benodig.
Waarvoor hulle gebruik word
Inbeddings krag semantiese soektog: vergelyk die vektor van 'n vraag met die vektore van gestoorde gedeeltes en keer die naaste terug. Hulle is die herwinning stap van herwinning-versterkte generasie (RAG). Hulle dien ook om soortgelyke gesprekke te groepeer, duplikate te detecteer, soortgelyke produkte aan te beveel en 'n boodskap na die regte onderwerp te lei.
Meertalige inbeddingmodelle plaas 'n vraag in Frans en 'n gedeelte in Engels naby mekaar wanneer hulle dieselfde ding beteken, wat laat een kennisbasis kliënte in baie tale bedien.
Praktiese punte
Vektore van verskillende modelle is nie vergelykbaar nie: as jy die inbeddingmodel verander, moet elke gestoorde gedeelte weer ingebed word. Inbeddings vang betekenis, nie presiese waardes nie, so hulle is swak op presiese filters soos 'n prysbereik of 'n produkverwysing — dit het gestruktureerde velde of sleutelwoordsoektog langsaan nodig. En lang dokumente moet in gedeeltes gesplit word voordat dit ingebed word, want een vektor vir 'n hele handleiding vervaag sy inhoud.
Inbeddingmodelle verskil ook in taaldekking, dimensie (en dus bergingskoste) en waar hulle gehosh is.
Inbeddings in AI SmartTalk
Elke AI SmartTalk-assistent gebruik een inbeddingmodel vir al sy kennis. Nuwe assistente gebruik 'n EU-gehoste meertalige model as standaard, en OpenAI inbeddingmodelle is ook beskikbaar. Die vektore word in PostgreSQL met pgvector gestoor en gekombineer met sleutelwoord- en trigramsoektog, sodat produkverwysings en presiese terme so betroubaar gevind word soos parafraserende vrae.
Gereelde vrae
Wat is die verskil tussen 'n inbedding en 'n token?
‘n Token is 'n stuk teks, ongeveer 'n woordfragment, wat 'n model lees. 'n Inbedding is 'n vektor van getalle wat betekenis verteenwoordig — van 'n token, 'n sin of 'n hele gedeelte.
Is inbeddings dieselfde as 'n vektor databasis?
Nee. Inbeddings is die vektore; 'n vektor databasis of indeks stoor hulle en vind die naaste vinnig.
Kan ek later inbeddingmodelle verander?
Ja, maar elke gestoorde item moet weer ingebed word met die nuwe model, omdat vektore van verskillende modelle in verskillende ruimtes woon en nie vergelyk kan word nie.