Вграждания
Бързо определение
Вграждането е списък от числа (вектор), който представлява значението на текст, изображение или друг елемент, така че подобни елементи получават близки вектори. Вгражданията правят търсенето по значение възможно.
На тази страница
Как работят вгражданията
Вграденият модел чете текст и извежда вектор с фиксирана дължина, обикновено няколко стотин до няколко хиляди числа. Моделът е обучен така, че текстовете с свързани значения да се намират близо един до друг в това пространство: „политика за възстановяване“ и „как мога да получа парите си обратно?“ споделят почти никакви думи, но произвеждат близки вектори.
Идеята се връща към вектори на думи като word2vec (Миколов и колеги, 2013), които научиха, че думите, появяващи се в подобни контексти, имат подобни значения. Моделите на ниво изречение като Sentence-BERT (2019) разшириха това до цели изречения и пасажи, което е необходимо за търсене и отговаряне на въпроси.
За какво се използват
Вгражданията захранват семантичното търсене: сравняват вектора на въпрос с векторите на съхранените пасажи и връщат най-близкия. Те са стъпката за извличане в извличането, увеличено с генериране (RAG). Те също така служат за клъстериране на подобни разговори, откриване на дубликати, препоръчване на подобни продукти и насочване на съобщение към правилната тема.
Многоезичните модели на вграждане поставят въпрос на френски и пасаж на английски близо един до друг, когато означават същото, което позволява на една база знания да обслужва клиенти на много езици.
Практически точки
Векторите от различни модели не са сравними: ако промените модела на вграждане, всеки съхранен пасаж трябва да бъде повторно вграден. Вгражданията улавят значение, а не точни стойности, така че те не са добри за прецизни филтри като ценови диапазон или референция на продукт — те изискват структурирани полета или търсене по ключови думи. И дългите документи трябва да бъдат разделени на пасажи преди вграждане, защото един вектор за цялото ръководство размазва съдържанието му.
Моделите на вграждане също така се различават по покритие на езиците, размер (и следователно разходи за съхранение) и къде са хоствани.
Вграждания в AI SmartTalk
Всеки асистент на AI SmartTalk използва един модел на вграждане за всичките си знания. Новите асистенти по подразбиране използват многоезичен модел, хостван в ЕС, а моделите на вграждане на OpenAI също са налични. Векторите се съхраняват в PostgreSQL с pgvector и се комбинират с търсене по ключови думи и триграмно търсене, така че референции на продукти и точни термини да бъдат намерени толкова надеждно, колкото и парафразирани въпроси.
Често задавани въпроси
Каква е разликата между вграждане и токен?
Токенът е парче текст, грубо казано фрагмент от дума, който моделът чете. Вграждането е вектор от числа, който представлява значение — на токен, изречение или цял пасаж.
Същите ли са вгражданията с векторна база данни?
Не. Вгражданията са векторите; векторна база данни или индекс ги съхранява и бързо намира най-близките.
Мога ли да сменя моделите на вграждане по-късно?
Да, но всеки съхранен елемент трябва да бъде повторно вграден с новия модел, защото векторите от различни модели живеят в различни пространства и не могат да бъдат сравнени.