Inżynieria podpowiedzi

Model językowy widzi tylko tekst, który otrzymuje. Dla asystenta obsługi klienta ten tekst zazwyczaj ma kilka warstw: podpowiedź systemowa opisująca, kim jest asystent, komu służy i czego nigdy nie może robić; materiały referencyjne pobrane dla bieżącego pytania; opisy narzędzi, które może używać; oraz dotychczasową rozmowę.

Inżynieria podpowiedzi to praca polegająca na uczynieniu tego pakietu jasnym i spójnym. Niejasne instrukcje („bądź pomocny”) prowadzą do niejasnego zachowania; konkretne („jeśli numer zamówienia jest brakujący, zapytaj o niego przed wyszukiwaniem”) prowadzą do przewidywalnego zachowania.

Bądź jednoznaczny co do zadania, odbiorców i oczekiwanego formatu. Nadaj modelowi rolę i kontekst, którego nowy kolega by potrzebował. Pokaż jeden lub dwa przykłady dobrych odpowiedzi, gdy format ma znaczenie. Oddziel instrukcje od danych — i powiedz modelowi, że pobrany tekst to informacje do wykorzystania, a nie polecenia do wykonania. Poproś go, aby rozwiązywał złożone prośby krok po kroku; Wei i współpracownicy pokazali w 2022 roku, że takie „myślenie w łańcuchu” poprawia wyniki w problemach wieloetapowych. I powiedz, co robić, gdy brakuje informacji.

Dostawcy modeli publikują swoje własne przewodniki; dokumentacja Anthropic, na przykład, zaleca bycie jasnym i bezpośrednim, używanie przykładów i dawanie modelowi przestrzeni do myślenia.

Najczęstszym błędem jest rosnąca podpowiedź: każda zła odpowiedź prowadzi do kolejnej zasady, aż zasady zaczynają sobie przeczyć, a model nie przestrzega żadnej z nich dobrze. Przykłady w stylu few-shot kopiowane słowo w słowo do odpowiedzi to kolejna pułapka — w tym przykłady napisane po angielsku, które mogą skłonić asystenta do odpowiadania po angielsku. Tak samo jest z umieszczaniem faktów, które się zmieniają, takich jak ceny, w podpowiedzi zamiast w bazie wiedzy.

Podpowiedź powinna opisywać zachowanie. Fakty należą do bazy wiedzy, a dane na żywo do narzędzi.

W AI SmartTalk podpowiedź systemowa nazywana jest biografią asystenta. Pomocny formularz ułatwia jej napisanie — tożsamość, styl komunikacji i zasady, z przyjaznym, profesjonalnym, neutralnym lub niestandardowym tonem — a wcześniejsze wersje są przechowywane, aby można było porównać lub cofnąć zmiany. Zasady decyzyjne i polityka przekazywania są ustalane osobno, a wbudowane zasady, takie jak odpowiadanie w języku odwiedzającego, są dodawane przez platformę.