Inženiring pozivov
Hitro definicija
Inženiring pozivov je praksa oblikovanja navodil, konteksta in primerov, ki jih dajemo jezikovnemu modelu, da proizvede zanesljive in uporabne izhode. Za podpornega asistenta osnovni poziv določa njegovo vlogo, pravila in ton.
Na tej strani
Kaj je vključeno v poziv
Jezikovni model vidi le besedilo, ki ga prejme. Za asistenta za pomoč strankam to besedilo običajno vsebuje več plasti: sistemski poziv, ki opisuje, kdo je asistent, komu služi in česa nikoli ne sme početi; referenčne materiale, pridobljene za trenutno vprašanje; opise orodij, ki jih lahko uporabi; in dosedanji pogovor.
Inženiring pozivov je delo, ki zagotavlja, da je ta paket jasen in dosleden. Nejasna navodila (“bodi v pomoč”) proizvajajo nejasno vedenje; specifična (“če številka naročila manjka, jo najprej zahtevaj, preden iščeš”) proizvajajo predvidljivo vedenje.
Tehnike, ki delujejo
Bodi jasen glede naloge, občinstva in pričakovanega formata. Daj modelu vlogo in kontekst, ki bi ga potreboval nov sodelavec. Prikaži enega ali dva primera dobrih odgovorov, ko je format pomemben. Loči navodila od podatkov — in povej modelu, da je pridobljeno besedilo informacija za uporabo, ne ukazi za sledenje. Prosi ga, naj razmišlja korak za korakom pri kompleksnih zahtevah; Wei in sodelavci so leta 2022 pokazali, da to “verižna misel” pozivanje izboljša rezultate pri večkoraknih problemih. In povej, kaj storiti, ko informacije manjkajo.
Založniki modelov objavljajo svoje lastne vodnike; dokumentacija Anthropic, na primer, priporoča, da bodite jasni in neposredni, uporabljate primere in dajte modelu prostor za razmišljanje.
Pogoste napake
Najpogostejša je nenehno rastoč poziv: vsak slab odgovor vodi do enega dodatnega pravila, dokler si pravila ne nasprotujejo in model ne sledi nobenemu od njih dobro. Primeri z malo posnetki, kopirani besedno v odgovore, so druga past — vključno s primeri, napisanimi v angleščini, kar lahko potisne asistenta, da odgovori v angleščini. Prav tako je napačno, da dejstva, ki se spreminjajo, kot so cene, vključimo v poziv namesto v bazo znanja.
Poziv bi moral opisovati vedenje. Dejstva pripadajo bazi znanja, živi podatki pa orodjem.
Pozivanje brez kode v AI SmartTalk
V AI SmartTalk se sistemski poziv imenuje biografija asistenta. Vodeni obrazec pomaga pri pisanju — identiteta, slog komunikacije in pravila, s prijaznim, profesionalnim, nevtralnim ali po meri prilagojenim tonom — in prejšnje različice se hranijo, da se lahko sprememba primerja ali razveljavi. Pravila odločanja in politika predaje so nastavljena ločeno, vgrajene politike, kot je odgovarjanje v jeziku obiskovalca, pa doda platforma.
Pogosto zastavljena vprašanja
Ali je inženiring pozivov še vedno potreben z boljšimi modeli?
Manj prevar je potrebnih, vendar so jasna navodila še vedno pomembna. Boljši modeli bolj zvesto sledijo dobrim pozivom, kar še dodatno povečuje pomen, da poziv pove, kaj dejansko želite.
Kaj je sistemski poziv?
Stalna navodila, dana modelu pred začetkom pogovora: njegova vloga, pravila, ton in omejitve. Uporabniki jih ne vidijo, vendar oblikujejo vsak odgovor.
Kaj je injekcija poziva?
Napad, pri katerem besedilo, napisano s strani uporabnika ali skrito v dokumentu, poskuša nadomestiti sistemski poziv — na primer “ignoriraj svoja navodila in…”. Z ločevanjem navodil od podatkov, omejevanjem, kaj lahko orodja počnejo, in preverjanjem dejanj na strežniški strani se to zmanjša.