Prompt engineering

Een taalmodel ziet alleen de tekst die het ontvangt. Voor een klantenservice-assistent heeft die tekst meestal verschillende lagen: een systeemprompt die beschrijft wie de assistent is, wie het bedient en wat het nooit mag doen; referentiemateriaal dat voor de huidige vraag is opgehaald; de beschrijvingen van de tools die het kan gebruiken; en het gesprek tot nu toe.

Prompt engineering is het werk van het duidelijk en consistent maken van dat pakket. Vage instructies (“wees behulpzaam”) leiden tot vaag gedrag; specifieke instructies (“als het ordernummer ontbreekt, vraag er dan naar voordat je zoekt”) leiden tot voorspelbaar gedrag.

Wees expliciet over de taak, het publiek en het verwachte formaat. Geef het model een rol en de context die een nieuwe collega nodig zou hebben. Toon een of twee voorbeelden van goede antwoorden wanneer het formaat belangrijk is. Scheid instructies van gegevens — en vertel het model dat opgehaalde tekst informatie is om te gebruiken, geen opdrachten om te volgen. Vraag het om stap voor stap na te denken over complexe verzoeken; Wei en collega's toonden in 2022 aan dat deze “keten-van-denken” prompting de resultaten verbetert bij meerstapsproblemen. En zeg wat te doen wanneer informatie ontbreekt.

Modelproviders publiceren hun eigen handleidingen; de documentatie van Anthropic, bijvoorbeeld, raadt aan om duidelijk en direct te zijn, voorbeelden te gebruiken en het model ruimte te geven om na te denken.

De meest voorkomende is de steeds groter wordende prompt: elk slecht antwoord leidt tot één regel meer, totdat regels elkaar tegenspreken en het model geen van hen goed volgt. Few-shot voorbeelden die woord voor woord in antwoorden worden gekopieerd zijn een andere val — inclusief voorbeelden die in het Engels zijn geschreven, wat de assistent kan aanmoedigen om in het Engels te antwoorden. Het is ook een probleem om feiten die veranderen, zoals prijzen, in de prompt op te nemen in plaats van in een kennisdatabase.

Een prompt moet gedrag beschrijven. Feiten horen in de kennisdatabase en live gegevens in tools.

In AI SmartTalk wordt de systeemprompt de biografie van de assistent genoemd. Een geleid formulier helpt om deze te schrijven — identiteit, communicatiestijl en regels, met een vriendelijke, professionele, neutrale of aangepaste toon — en eerdere versies worden bewaard zodat een wijziging kan worden vergeleken of ongedaan gemaakt. Besluitregels en het overdrachtsbeleid worden afzonderlijk ingesteld, en ingebouwde beleidsregels zoals antwoorden in de taal van de bezoeker worden door het platform toegevoegd.