Indlejringer
Hurtig definition
En indlejring er en liste af tal (en vektor), der repræsenterer betydningen af en tekst, billede eller andet objekt, så lignende objekter får nærliggende vektorer. Indlejringer er det, der gør søgning efter betydning muligt.
På denne side
Hvordan indlejringer fungerer
En indlejringsmodel læser en tekst og outputter en fast længde vektor, typisk flere hundrede til et par tusinde tal. Modellen er trænet, så tekster med relaterede betydninger lander tæt på hinanden i det rum: “refundering politik” og “hvordan får jeg mine penge tilbage?” deler næsten ingen ord, men producerer tætte vektorer.
Ideen går tilbage til ordvektorer som word2vec (Mikolov og kolleger, 2013), som lærte, at ord, der optræder i lignende kontekster, har lignende betydninger. Sætningsniveau modeller som Sentence-BERT (2019) udvidede det til hele sætninger og passager, hvilket er, hvad søgning og spørgsmål-svar behov.
Hvad de bruges til
Indlejringer muliggør semantisk søgning: sammenlign vektoren af et spørgsmål med vektorerne af gemte passager og returner den nærmeste. De er retrieval-trinnet i retrieval-augmented generation (RAG). De bruges også til at klustre lignende samtaler, opdage duplikater, anbefale lignende produkter og rute en besked til det rigtige emne.
Flersprogede indlejringsmodeller placerer et spørgsmål på fransk og en passage på engelsk tæt sammen, når de betyder det samme, hvilket lader en vidensbase betjene kunder på mange sprog.
Praktiske punkter
Vektorer fra forskellige modeller er ikke sammenlignelige: hvis du ændrer indlejringsmodellen, skal hver gemt passage genindlejres. Indlejringer fanger betydning, ikke præcise værdier, så de er dårlige til præcise filtre som et prisspænd eller en produktreference — disse kræver strukturerede felter eller nøgleordsøgning ved siden af. Og lange dokumenter skal opdeles i passager, før de indlejres, fordi én vektor for en hel manual slører dens indhold.
Indlejringsmodeller adskiller sig også i sprog dækning, dimension (og derfor lageromkostninger) og hvor de er hostet.
Indlejringer i AI SmartTalk
Hver AI SmartTalk-assistent bruger én indlejringsmodel til al sin viden. Nye assistenter bruger som standard en EU-hostet flersproget model, og OpenAI indlejringsmodeller er også tilgængelige. Vektorerne gemmes i PostgreSQL med pgvector og kombineres med nøgleords- og trigram-søgning, så produktreferencer og præcise termer findes lige så pålideligt som parafraserede spørgsmål.
Ofte stillede spørgsmål
Hvad er forskellen mellem en indlejring og et token?
Et token er et stykke tekst, groft sagt en ordfragment, som en model læser. En indlejring er en vektor af tal, der repræsenterer betydning — af et token, en sætning eller en hel passage.
Er indlejringer det samme som en vektordatabase?
Nej. Indlejringer er vektorerne; en vektordatabase eller indeks gemmer dem og finder de nærmeste hurtigt.
Kan jeg skifte indlejringsmodeller senere?
Ja, men hvert gemt element skal genindlejres med den nye model, fordi vektorer fra forskellige modeller lever i forskellige rum og ikke kan sammenlignes.