Inžinierstvo podnetov

Jazykový model vidí iba text, ktorý dostane. Pre asistenta zákazníckej podpory tento text zvyčajne obsahuje niekoľko vrstiev: systémový podnet popisujúci, kým asistent je, komu slúži a čo nesmie nikdy robiť; referenčný materiál získaný pre aktuálnu otázku; popisy nástrojov, ktoré môže použiť; a doterajší priebeh konverzácie.

Inžinierstvo podnetov je práca na tom, aby bol tento balík jasný a konzistentný. Nejasné pokyny („buď nápomocný“) produkujú nejasné správanie; konkrétne pokyny („ak chýba číslo objednávky, opýtaj sa naň pred hľadaním“) produkujú predvídateľné správanie.

Buďte explicitní ohľadom úlohy, publika a očakávaného formátu. Dajte modelu rolu a kontext, ktorý by nový kolega potreboval. Ukážte jeden alebo dva príklady dobrých odpovedí, keď na formáte záleží. Oddelujte pokyny od údajov — a povedzte modelu, že získaný text je informácia na použitie, nie príkazy na dodržiavanie. Požadujte, aby uvažoval krok za krokom pri zložitých požiadavkách; Wei a kolegovia ukázali v roku 2022, že toto „reťazové myslenie“ zlepšuje výsledky pri viacstupňových problémoch. A povedzte, čo robiť, keď chýbajú informácie.

Poskytovatelia modelov publikujú svoje vlastné príručky; dokumentácia Anthropic, napríklad, odporúča byť jasný a priamy, používať príklady a dať modelu priestor na premýšľanie.

Najbežnejšou chybou je neustále rastúci podnet: každá zlá odpoveď vedie k ďalšiemu pravidlu, až kým si pravidlá navzájom neodporujú a model ich žiadne z nich dobre nedodržiava. Príklady s málo ukážkami skopírované slovo za slovom do odpovedí sú ďalšou pascou — vrátane príkladov napísaných v angličtine, čo môže asistenta prinútiť odpovedať v angličtine. Rovnako je chybou umiestniť fakty, ktoré sa menia, ako sú ceny, do podnetu namiesto do databázy znalostí.

Podnet by mal popisovať správanie. Fakty patria do databázy znalostí a živé údaje do nástrojov.

V AI SmartTalk sa systémový podnet nazýva biografiou asistenta. Pomocná forma pomáha ho napísať — identita, komunikačný štýl a pravidlá, s priateľským, profesionálnym, neutrálnym alebo vlastným tónom — a predchádzajúce verzie sú uchovávané, aby sa mohla zmena porovnať alebo zrušiť. Pravidlá rozhodovania a politika odovzdávania sú nastavené samostatne a zabudované politiky, ako je odpovedanie v jazyku návštevníka, sú pridávané platformou.