Paskatų inžinerija
Greitas apibrėžimas
Paskatų inžinerija yra praktika, skirta kurti instrukcijas, kontekstą ir pavyzdžius, pateikiamus kalbos modeliui, kad jis generuotų patikimus, naudingus rezultatus. Pagalbos asistentui pagrindinė paskata nustato jo vaidmenį, taisykles ir toną.
Šioje puslapio dalyje
Kas sudaro paskatą
Kalbos modelis mato tik tekstą, kurį gauna. Klientų aptarnavimo asistentui šis tekstas paprastai turi kelias sluoksnius: sistemos paskatą, apibūdinančią, kas yra asistentas, kam jis tarnauja ir ko jis niekada neturėtų daryti; nuorodų medžiagą, gautą dabartiniam klausimui; įrankių, kuriuos jis gali naudoti, aprašymus; ir iki šiol vykusią pokalbį.
Paskatų inžinerija yra darbas, skirtas padaryti šį paketą aiškų ir nuoseklų. Neaiškios instrukcijos („būk naudingas“) sukuria neaiškų elgesį; specifinės („jei užsakymo numeris trūksta, paprašyk jo prieš ieškant“) sukuria prognozuojamą elgesį.
Veiksmingos technikos
Būkite aiškūs dėl užduoties, auditorijos ir tikėtino formato. Duokite modeliui vaidmenį ir kontekstą, kurio reikėtų naujam kolegai. Parodykite vieną ar du gerų atsakymų pavyzdžius, kai formatas yra svarbus. Atskirkite instrukcijas nuo duomenų — ir pasakykite modeliui, kad gautas tekstas yra informacija, kurią reikia naudoti, o ne nurodymai, kuriuos reikia vykdyti. Paprašykite jo mąstyti žingsnis po žingsnio sudėtingose užklausose; Wei ir kolegos 2022 m. parodė, kad šis „mąstymo grandinės“ paskatinimas pagerina rezultatus sprendžiant daugiapakopes problemas. Ir pasakykite, ką daryti, kai informacijos trūksta.
Modelių tiekėjai skelbia savo gaires; pavyzdžiui, „Anthropic“ dokumentacija rekomenduoja būti aiškiems ir tiesioginiams, naudoti pavyzdžius ir suteikti modeliui erdvės mąstyti.
Dažnos klaidos
Dažniausia yra vis didėjanti paskata: kiekvienas blogas atsakymas sukelia dar vieną taisyklę, kol taisyklės prieštarauja viena kitai, o modelis gerai nevykdo nė vienos iš jų. Pavyzdžiai, kopijuojami žodžiu į atsakymus, yra dar viena spąstai — įskaitant pavyzdžius, parašytus anglų kalba, kurie gali priversti asistentą atsakyti anglų kalba. Taip pat yra faktų, kurie keičiasi, pavyzdžiui, kainos, įtraukimas į paskatą, o ne į žinių bazę.
Paskata turėtų apibūdinti elgesį. Faktai priklauso žinių bazei, o gyvi duomenys — įrankiams.
Paskatinimas be kodo AI SmartTalk
AI SmartTalk sistemos paskata vadinama asistento biografija. Padedanti forma padeda ją parašyti — tapatybė, komunikacijos stilius ir taisyklės, su draugišku, profesionaliu, neutralu ar individualiu tonu — ir ankstesnės versijos saugomos, kad pokyčius būtų galima palyginti ar atšaukti. Sprendimų taisyklės ir perdavimo politika nustatomos atskirai, o integruotos politikos, tokios kaip atsakymas lankytojo kalba, pridedamos platformos.
Dažnai užduodami klausimai
Ar paskatų inžinerija vis dar reikalinga su geresniais modeliais?
Reikalingas mažiau apgaulių, tačiau aiškios instrukcijos vis dar svarbios. Geresni modeliai geriau laikosi gerų paskatų, todėl dar svarbiau, kad paskata pasakytų, ko iš tikrųjų norite.
Kas yra sistemos paskata?
Nuolatinės instrukcijos, pateiktos modeliui prieš prasidedant pokalbiui: jo vaidmuo, taisyklės, tonas ir ribos. Vartotojai to nemato, tačiau tai formuoja kiekvieną atsakymą.
Kas yra paskatų injekcija?
Ataka, kai vartotojo parašytas tekstas arba paslėptas dokumente bando perrašyti sistemos paskatą — pavyzdžiui, „ignoruoju savo instrukcijas ir...“. Tai sumažinama atskiriant instrukcijas nuo duomenų, ribojant, ką gali daryti įrankiai, ir tikrinant veiksmus serverio pusėje.