Inženýrství promptů

Jazykový model vidí pouze text, který obdrží. Pro asistenta zákaznického servisu má tento text obvykle několik vrstev: systémový prompt popisující, kdo asistent je, komu slouží a co nikdy nesmí dělat; referenční materiál získaný pro aktuální otázku; popisy nástrojů, které může použít; a dosavadní konverzaci.

Inženýrství promptů je práce na tom, aby byl tento balíček jasný a konzistentní. Nejasné pokyny („buď nápomocný”) produkují nejasné chování; konkrétní pokyny („pokud chybí číslo objednávky, požádej o něj před hledáním”) produkují předvídatelné chování.

Buďte explicitní ohledně úkolu, publika a očekávaného formátu. Dejte modelu roli a kontext, který by nový kolega potřeboval. Ukažte jeden nebo dva příklady dobrých odpovědí, když na formátu záleží. Oddělte pokyny od dat — a řekněte modelu, že získaný text je informace k použití, nikoli příkazy k dodržení. Požádejte ho, aby u složitých požadavků uvažoval krok za krokem; Wei a kolegové ukázali v roce 2022, že toto „řetězení myšlenek” zlepšuje výsledky u vícestupňových problémů. A řekněte, co dělat, když chybí informace.

Poskytovatelé modelů zveřejňují své vlastní příručky; dokumentace společnosti Anthropic například doporučuje být jasný a přímý, používat příklady a dávat modelu prostor k přemýšlení.

Nejběžnější je stále rostoucí prompt: každá špatná odpověď vede k dalšímu pravidlu, dokud si pravidla navzájem neodporují a model žádné z nich dobře nedodržuje. Příklady s několika ukázkami zkopírovanými slovo od slova do odpovědí jsou další pastí — včetně příkladů napsaných v angličtině, což může asistenta přimět odpovědět v angličtině. Stejně tak je problém dávat do promptu fakta, která se mění, jako jsou ceny, místo do znalostní báze.

Prompt by měl popisovat chování. Fakta patří do znalostní báze a živá data do nástrojů.

V AI SmartTalk se systémový prompt nazývá biografie asistenta. Užitečný formulář pomáhá jej napsat — identita, styl komunikace a pravidla, s přátelským, profesionálním, neutrálním nebo vlastním tónem — a předchozí verze se uchovávají, takže lze změnu porovnat nebo vrátit zpět. Pravidla rozhodování a politika předání se nastavují samostatně a vestavěné politiky, jako je odpovídání v jazyce návštěvníka, jsou přidávány platformou.