Embeddingy
Rýchla definícia
Embedding je zoznam čísel (vektor), ktorý reprezentuje význam textu, obrázku alebo iného prvku, takže podobné prvky dostávajú blízke vektory. Embeddingy sú to, čo umožňuje vyhľadávanie podľa významu.
Na tejto stránke
Ako embeddingy fungujú
Model embeddingu číta text a výstupuje vektor pevnej dĺžky, typicky niekoľko stoviek až niekoľko tisíc čísel. Model je trénovaný tak, aby texty s príbuznými významami sa nachádzali blízko seba v tomto priestore: „politika vrátenia peňazí“ a „ako dostanem svoje peniaze späť?“ zdieľajú takmer žiadne slová, ale produkujú blízke vektory.
Myšlienka sa vracia k slovným vektorom, ako je word2vec (Mikolov a kolegovia, 2013), ktorý sa naučil, že slová sa objavujúce v podobných kontextoch majú podobné významy. Modely na úrovni viet, ako je Sentence-BERT (2019), to rozšírili na celé vety a pasáže, čo je to, čo vyhľadávanie a odpovedanie na otázky potrebujú.
Na čo sa používajú
Embeddings posilňujú sémantické vyhľadávanie: porovnávajú vektor otázky s vektormi uložených pasáží a vracajú najbližšie. Sú krokom vyhľadávania v generovaní s rozšírením vyhľadávania (RAG). Taktiež slúžia na zhlukovanie podobných konverzácií, detekciu duplicit, odporúčanie podobných produktov a smerovanie správy na správnu tému.
Viacjazyčné modely embeddings umiestňujú otázku vo francúzštine a pasáž v angličtine blízko seba, keď znamenajú to isté, čo umožňuje jednej databáze vedomostí obsluhovať zákazníkov v mnohých jazykoch.
Praktické body
Vektory z rôznych modelov nie sú porovnateľné: ak zmeníte model embeddings, každá uložená pasáž musí byť znovu vložená. Embeddings zachytávajú význam, nie presné hodnoty, takže sú slabé pri presných filtroch, ako je cenový rozsah alebo referencia produktu — tie potrebujú štruktúrované polia alebo vyhľadávanie kľúčových slov. A dlhé dokumenty musia byť pred vložením rozdelené na pasáže, pretože jeden vektor pre celý manuál rozmazáva jeho obsah.
Modely embeddings sa tiež líšia v jazykovom pokrytí, dimenzii (a teda nákladoch na ukladanie) a mieste, kde sú hostené.
Embeddings v AI SmartTalk
Každý asistent AI SmartTalk používa jeden model embeddings pre všetky svoje vedomosti. Noví asistenti používajú predvolene viacjazyčný model hostený v EÚ a modely embeddings OpenAI sú tiež k dispozícii. Vektory sú uložené v PostgreSQL s pgvector a kombinované s vyhľadávaním kľúčových slov a trigramov, takže referencie produktov a presné termíny sú nájdené rovnako spoľahlivo ako parafrázované otázky.
Často kladené otázky
Aký je rozdiel medzi embeddingom a tokenom?
Token je kus textu, zhruba fragment slova, ktorý model číta. Embedding je vektor čísel, ktorý predstavuje význam — tokenu, vety alebo celej pasáže.
Sú embeddings rovnaké ako databáza vektorov?
Nie. Embeddings sú vektory; databáza alebo index vektorov ich ukladá a rýchlo nájde najbližšie.
Môžem neskôr zmeniť model embeddings?
Áno, ale každý uložený predmet musí byť znovu vložený s novým modelom, pretože vektory z rôznych modelov žijú v rôznych priestoroch a nemôžu byť porovnávané.