Inženjering upita
Brza definicija
Inženjering upita je praksa dizajniranja instrukcija, konteksta i primera koji se daju jezičkom modelu kako bi proizvodio pouzdane i korisne izlaze. Za asistenta za podršku, osnovni upit postavlja njegovu ulogu, pravila i ton.
Na ovoj stranici
Šta se uključuje u upit
Jezički model vidi samo tekst koji prima. Za asistenta za korisničku podršku, taj tekst obično ima nekoliko slojeva: sistemski upit koji opisuje ko je asistent, kome služi i šta nikada ne sme da radi; referentni materijal preuzet za trenutno pitanje; opise alata koje može koristiti; i razgovor do sada.
Inženjering upita je rad na tome da se taj paket učini jasnim i doslednim. Nejasne instrukcije (“budi od pomoći”) proizvode nejasno ponašanje; specifične (“ako nedostaje broj narudžbine, pitaj za njega pre nego što potražiš”) proizvode predvidljivo ponašanje.
Tehnike koje funkcionišu
Budite eksplicitni u vezi sa zadatkom, publikom i očekivanim formatom. Dajte modelu ulogu i kontekst koji bi novom kolegi bili potrebni. Prikažite jedan ili dva primera dobrih odgovora kada je format važan. Odvojite instrukcije od podataka — i recite modelu da je preuzeti tekst informacija koju treba koristiti, a ne naređenja koja treba slediti. Zamolite ga da razmišlja korak po korak o složenim zahtevima; Wei i saradnici su 2022. godine pokazali da ovo “lancano razmišljanje” poboljšava rezultate na višekratnim problemima. I recite šta treba raditi kada nedostaje informacija.
Provajderi modela objavljuju svoje vodiče; dokumentacija Anthropic-a, na primer, preporučuje da budete jasni i direktni, koristeći primere i dajući modelu prostora za razmišljanje.
Uobičajene greške
Najčešća je sve veći upit: svaki loš odgovor dovodi do još jednog pravila, sve dok se pravila ne protivreče i model ne sledi nijedno od njih dobro. Primeri sa malo reči koji su kopirani reč po reč u odgovore su još jedna zamka — uključujući primere napisane na engleskom, što može naterati asistenta da odgovara na engleskom. Takođe je problem stavljanje činjenica koje se menjaju, kao što su cene, u upit umesto u bazu znanja.
Upit bi trebao da opisuje ponašanje. Činjenice pripadaju bazi znanja, a živi podaci alatima.
Upit bez koda u AI SmartTalk
U AI SmartTalk sistemski upit se naziva biografijom asistenta. Vođeni obrazac pomaže u njegovom pisanju — identitet, stil komunikacije i pravila, sa prijateljskim, profesionalnim, neutralnim ili prilagođenim tonom — a prethodne verzije se čuvaju tako da se promena može uporediti ili poništiti. Pravila donošenja odluka i politika predaje se postavljaju odvojeno, a ugrađene politike kao što je odgovaranje na jeziku posetioca dodaje platforma.
Često postavljana pitanja
Da li je inženjering upita još uvek potreban sa boljim modelima?
Manje trikova je potrebno, ali jasne instrukcije su i dalje važne. Bolji modeli verno prate dobre upite, što čini još važnijim da upit kaže šta zapravo želite.
Šta je sistemski upit?
Stalne instrukcije date modelu pre nego što razgovor počne: njegova uloga, pravila, ton i ograničenja. Korisnici ih ne vide, ali oblikuju svaki odgovor.
Šta je injekcija upita?
Napad u kojem tekst koji je napisao korisnik ili skriven u dokumentu pokušava da nadmaši sistemski upit — na primer, “zanemari svoje instrukcije i…”. Smanjuje se odvojenjem instrukcija od podataka, ograničavanjem onoga što alati mogu da rade i proverom radnji na serverskoj strani.