Generacja wspomagana wyszukiwaniem (RAG)
Szybka definicja
Generacja wspomagana wyszukiwaniem (RAG) to technika, w której system AI najpierw wyszukuje odpowiednie fragmenty z zaufanego źródła, takiego jak baza wiedzy lub katalog produktów, a następnie przekazuje je modelowi językowemu, aby jego odpowiedź opierała się na tych fragmentach, a nie tylko na jego pamięci.
Na tej stronie
Dlaczego RAG istnieje
Model językowy uczy się z ustalonego zrzutu tekstu. Nie zna Twojej polityki zwrotów, aktualnych cen ani produktu, który dodałeś dzisiaj rano, a gdy zostanie o to zapytany, może wygenerować wiarygodną, ale błędną odpowiedź. Ponowne trenowanie modelu za każdym razem, gdy Twoja treść się zmienia, byłoby wolne i kosztowne.
RAG rozwiązuje to, przechowując wiedzę poza modelem. Twoja treść pozostaje w wyszukiwalnym magazynie, który możesz aktualizować w dowolnym momencie; model jest tylko proszony o przeczytanie odpowiednich fragmentów i sformułowanie odpowiedzi. Podejście to zostało opisane przez Lewisa i współpracowników w Facebook AI Research w 2020 roku.
Jak to działa, krok po kroku
Najpierw przygotowywana jest treść: dokumenty, strony internetowe lub rekordy produktów są dzielone na fragmenty, a każdy fragment jest przekształcany w osadzenie — listę liczb, która uchwyca jego znaczenie. Te osadzenia są przechowywane w indeksie wektorowym, często obok klasycznego indeksu słów kluczowych.
Gdy przychodzi pytanie, jest ono przekształcane w ten sam sposób, a najbliższe fragmenty są wyszukiwane, czasami w połączeniu z wyszukiwaniem słów kluczowych lub filtrami, takimi jak język lub kategoria. Najlepsze fragmenty są wstawiane do podpowiedzi modelu z instrukcją, aby odpowiedzieć na ich podstawie. Wiele systemów zwraca również źródła, aby czytelnik mógł sprawdzić, skąd pochodzi odpowiedź.
Ograniczenia, o których warto wiedzieć
RAG jest tak dobry, jak to, co wyszukuje. Jeśli odpowiedni fragment jest niedostępny, przestarzały lub źle podzielony, model odpowiada na podstawie niewłaściwego fragmentu lub wraca do swojej pamięci. Ustrukturyzowane pytania — "najtańsza kurtka w rozmiarze M" — są słabo obsługiwane przez samo wyszukiwanie podobieństw i wymagają filtrów na rzeczywistych danych. A model może nadal źle odczytać fragment, więc odpowiedzi na wrażliwe tematy powinny być sprawdzane lub eskalowane.
Dlatego systemy produkcyjne łączą RAG z wyszukiwaniem strukturalnym, zasadami świeżości, które synchronizują treść, gdy się zmienia, oraz jasnymi instrukcjami, aby powiedzieć, kiedy źródła nie zawierają odpowiedzi.
RAG w obsłudze klienta
Dla asystenta wsparcia lub e-commerce RAG to to, co pozwala agentowi odpowiadać na podstawie Twojego FAQ, Twoich polityk i Twojego katalogu w języku klienta oraz wskazywać stronę, z której korzystał. W AI SmartTalk wiedza, z której asystent odpowiada — strony internetowe, dokumenty, wpisy FAQ i zsynchronizowane produkty — jest indeksowana w ten sposób, a pytania dotyczące produktów również korzystają z filtrów na cenę, opcje i stan magazynowy.
Najczęściej zadawane pytania
Czy RAG jest tym samym co fine-tuning?
Nie. Fine-tuning zmienia wagi modelu, trenując go na przykładach; RAG pozostawia model niezmienionym i przekazuje mu odpowiednie informacje w czasie zadawania pytania. RAG jest zazwyczaj lepszym wyborem dla faktów, które się zmieniają, takich jak ceny, stan magazynowy lub polityki.
Czy RAG zatrzymuje halucynacje AI?
Znacząco je redukuje, ponieważ model odpowiada na podstawie rzeczywistych fragmentów, ale ich nie usuwa. Dobre wyszukiwanie, instrukcja przyznania się, gdy źródła milczą, oraz przekazanie do osoby w wrażliwych przypadkach są nadal potrzebne.
Czym jest baza danych wektorów?
Magazyn, który indeksuje osadzenia, aby fragmenty najbliższe znaczeniu pytania mogły być szybko znalezione. Jest to zwykła warstwa wyszukiwania w systemie RAG, często w połączeniu z wyszukiwaniem słów kluczowych.
Czy RAG może działać z katalogiem produktów?
Tak, ale produkty potrzebują więcej niż wyszukiwanie podobieństw: asystent powinien filtrować według ustrukturyzowanych pól, takich jak cena, rozmiar lub stan magazynowy, a następnie używać RAG do opisów i przewodników zakupowych.