Вградби
Брза дефиниција
Вградбата е список на броеви (вектор) кој ја претставува значењето на текст, слика или друг предмет, така што слични предмети добиваат блиски вектори. Вградбите се она што го прави пребарувањето по значење можно.
На оваа страница
Како функционираат вградбите
Моделот на вградба чита текст и излезе фиксно-долг вектор, обично неколку стотици до неколку илјади броеви. Моделот е обучен така што текстовите со поврзани значења се наоѓаат блиску едни до други во тој простор: “политика за повраток” и “како да го добијам мојот повраток?” споделуваат речиси никакви зборови, но произведуваат блиски вектори.
Идејата се враќа на вектори на зборови како word2vec (Миколов и колеги, 2013), кои научија дека зборовите кои се појавуваат во слични контексти имаат слични значења. Моделите на ниво на реченици како Sentence-BERT (2019) ја проширија на целосни реченици и пасуси, што е она што пребарувањето и одговарањето на прашања го потребуваат.
За што се користат
Векторите ја овозможуваат семантичката претрага: споредете го векторот на прашањето со векторите на зачуваните пасуси и вратете го најблискиот. Тие се чекор за повлекување во генерирањето со дополнување на податоци (RAG). Исто така служат за кластеризирање на слични разговори, откривање на дупликати, препорачување слични производи и упатување на порака до соодветната тема.
Мултијазичните модели на вгнездување ги поставуваат прашањата на француски и пасусите на англиски блиску едни до други кога значат истото, што дозволува една база на знаење да служи клиенти на многу јазици.
Практични точки
Векторите од различни модели не се споредливи: ако го промените моделот на вгнездување, секој зачуван пасус мора да биде повторно вгнезден. Вгнездувањата ја фаќаат смислата, а не точните вредности, па затоа се слаби на прецизни филтри како што се ценовни опсези или референци на производи — тие бараат структурирани полиња или пребарување по клучни зборови. И долгите документи мора да се разделат на пасуси пред вгнездување, бидејќи еден вектор за цел рачен водич ја замаглува неговата содржина.
Моделите на вгнездување исто така се разликуваат во покриеност на јазик, димензија (и затоа трошок за складирање) и каде се хостираат.
Вгнездувања во AI SmartTalk
Секој AI SmartTalk асистент користи еден модел на вгнездување за целото свое знаење. Новите асистенти по подразбирање користат мултијазичен модел хостиран во ЕУ, а моделите на вгнездување на OpenAI исто така се достапни. Векторите се зачувани во PostgreSQL со pgvector и комбинирани со пребарување по клучни зборови и триграм, така што референците на производи и точните термини се наоѓаат со истата сигурност како и парафразираните прашања.
Често поставувани прашања
Која е разликата помеѓу вгнездување и токен?
Токенот е дел од текстот, приближно фрагмент од збор, кој моделот го чита. Вгнездувањето е вектор на броеви што ја претставува смислата — на токен, реченица или цел пасус.
Дали вгнездувањата се исто што и векторска база на податоци?
Не. Вгнездувањата се векторите; векторската база на податоци или индексот ги складира и брзо ги наоѓа најблиските.
Можам ли подоцна да променам модели на вгнездување?
Да, но секој зачуван елемент мора да биде повторно вгнезден со новиот модел, бидејќи векторите од различни модели живеат во различни простори и не можат да се споредуваат.