Promptingeniørarbeid
Rask definisjon
Prompt engineering er praksisen med å designe instruksjonene, konteksten og eksemplene som gis til en språkmodell, slik at den produserer pålitelige, nyttige resultater. For en supportassistent setter hovedprompten dens rolle, regler og tone.
På denne siden
Hva går inn i en prompt
En språkmodell ser kun teksten den mottar. For en kundeserviceassistent har den teksten vanligvis flere lag: en systemprompt som beskriver hvem assistenten er, hvem den betjener og hva den aldri må gjøre; referansemateriale hentet for det aktuelle spørsmålet; beskrivelsene av verktøyene den kan bruke; og samtalen så langt.
Prompt engineering er arbeidet med å gjøre den pakken klar og konsistent. Vage instruksjoner (“vær hjelpsom”) gir vagt atferd; spesifikke instruksjoner (“hvis ordrenummeret mangler, spør om det før du søker”) gir forutsigbar atferd.
Teknikker som fungerer
Vær eksplisitt om oppgaven, publikum og det forventede formatet. Gi modellen en rolle og konteksten en ny kollega ville trengt. Vis ett eller to eksempler på gode svar når formatet er viktig. Skill instruksjoner fra data — og fortell modellen at hentet tekst er informasjon å bruke, ikke ordre å følge. Be den resonnere trinn for trinn på komplekse forespørsel; Wei og kolleger viste i 2022 at denne “kjede-av-tanker” prompting forbedrer resultater på flertrinnsproblemer. Og si hva som skal gjøres når informasjon mangler.
Modelleverandører publiserer sine egne guider; Anthropics dokumentasjon, for eksempel, anbefaler å være klar og direkte, bruke eksempler og gi modellen rom til å tenke.
Vanlige feil
Den vanligste er den stadig voksende prompten: hvert dårlige svar fører til én regel til, inntil reglene motsier hverandre og modellen følger ingen av dem godt. Few-shot eksempler kopiert ord for ord inn i svar er en annen felle — inkludert eksempler skrevet på engelsk, som kan presse assistenten til å svare på engelsk. Det samme gjelder å putte fakta som endrer seg, som priser, inn i prompten i stedet for en kunnskapsbase.
En prompt bør beskrive atferd. Fakta hører hjemme i kunnskapsbasen og levende data i verktøy.
Prompting uten kode i AI SmartTalk
I AI SmartTalk kalles systemprompten assistentens biografi. Et veiledet skjema hjelper med å skrive den — identitet, kommunikasjonsstil og regler, med en vennlig, profesjonell, nøytral eller tilpasset tone — og tidligere versjoner oppbevares slik at en endring kan sammenlignes eller angres. Beslutningsregler og overleveringspolitikken settes separat, og innebygde retningslinjer som å svare på besøkendes språk legges til av plattformen.
Ofte stilte spørsmål
Er prompt engineering fortsatt nødvendig med bedre modeller?
Mindre triksing er nødvendig, men klare instruksjoner er fortsatt viktige. Bedre modeller følger gode prompts mer trofast, noe som gjør det enda viktigere at prompten sier hva du faktisk ønsker.
Hva er en systemprompt?
De stående instruksjonene gitt til modellen før samtalen starter: dens rolle, regler, tone og begrensninger. Brukerne ser ikke dette, men det former hvert svar.
Hva er promptinjeksjon?
Et angrep der tekst skrevet av en bruker eller skjult i et dokument prøver å overstyre systemprompten — for eksempel “ignorer instruksjonene dine og…”. Det reduseres ved å skille instruksjoner fra data, begrense hva verktøy kan gjøre og sjekke handlinger på serversiden.