Prompt engineering
Hurtig definition
Prompt engineering er praksis med at designe instruktionerne, konteksten og eksemplerne givet til en sprogmodel, så den producerer pålidelige, nyttige resultater. For en supportassistent sætter den centrale prompt dens rolle, regler og tone.
På denne side
Hvad går ind i en prompt
En sprogmodel ser kun den tekst, den modtager. For en kundeserviceassistent har den tekst normalt flere lag: en systemprompt, der beskriver, hvem assistenten er, hvem den betjener, og hvad den aldrig må gøre; reference materiale hentet til det aktuelle spørgsmål; beskrivelser af de værktøjer, den kan bruge; og samtalen indtil nu.
Prompt engineering er arbejdet med at gøre den pakke klar og konsistent. Vage instruktioner (“vær hjælpsom”) producerer vag adfærd; specifikke instruktioner (“hvis ordrenummeret mangler, bed om det, før du søger”) producerer forudsigelig adfærd.
Teknikker der virker
Vær eksplicit om opgaven, publikum og det forventede format. Giv modellen en rolle og konteksten, en ny kollega ville have brug for. Vis et eller to eksempler på gode svar, når formatet betyder noget. Adskil instruktioner fra data — og fortæl modellen, at hentet tekst er information at bruge, ikke ordrer at følge. Bed den om at ræsonnere trin for trin ved komplekse anmodninger; Wei og kolleger viste i 2022, at denne “tankegang”-prompting forbedrer resultaterne på multi-trins problemer. Og sig hvad der skal gøres, når information mangler.
Modeludbydere offentliggør deres egne vejledninger; Anthropics dokumentation anbefaler for eksempel at være klar og direkte, bruge eksempler og give modellen plads til at tænke.
Almindelige fejl
Den mest almindelige er den stadigt voksende prompt: hvert dårligt svar fører til en mere regel, indtil reglerne modsiger hinanden, og modellen følger ingen af dem godt. Few-shot eksempler kopieret ord for ord ind i svar er en anden fælde — inklusive eksempler skrevet på engelsk, som kan presse assistenten til at svare på engelsk. Det er også en fejl at putte fakta, der ændrer sig, såsom priser, ind i prompten i stedet for en vidensbase.
En prompt skal beskrive adfærd. Fakta hører hjemme i vidensbasen, og live data i værktøjer.
Prompting uden kode i AI SmartTalk
I AI SmartTalk kaldes systemprompten assistentens biografi. En guidet formular hjælper med at skrive den — identitet, kommunikationsstil og regler, med en venlig, professionel, neutral eller tilpasset tone — og tidligere versioner opbevares, så en ændring kan sammenlignes eller fortrydes. Beslutningsregler og overdragelsespolitikken fastsættes separat, og indbyggede politikker som at svare på besøgendes sprog tilføjes af platformen.
Ofte stillede spørgsmål
Er prompt engineering stadig nødvendigt med bedre modeller?
Mindre trickery er nødvendigt, men klare instruktioner betyder stadig noget. Bedre modeller følger gode prompts mere trofast, hvilket gør det endnu vigtigere, at prompten siger, hvad du faktisk ønsker.
Hvad er en systemprompt?
De stående instruktioner givet til modellen, før samtalen starter: dens rolle, regler, tone og grænser. Brugerne ser ikke den, men den former hvert svar.
Hvad er prompt injection?
Et angreb, hvor tekst skrevet af en bruger eller skjult i et dokument forsøger at tilsidesætte systemprompten — for eksempel “ignorér dine instruktioner og…”. Det reduceres ved at adskille instruktioner fra data, begrænse hvad værktøjer kan gøre og kontrollere handlinger server-side.