Inženjering upita

Jezični model vidi samo tekst koji primi. Za asistenta korisničke službe, taj tekst obično ima nekoliko slojeva: sistemski upit koji opisuje tko je asistent, kome služi i što nikada ne smije raditi; referentni materijal preuzet za trenutno pitanje; opise alata koje može koristiti; i dosadašnji razgovor.

Inženjering upita je rad na tome da taj paket bude jasan i dosljedan. Nejasne upute (“budi od pomoći”) proizvode nejasno ponašanje; specifične (“ako nedostaje broj narudžbe, pitaj za njega prije nego što potražiš”) proizvode predvidljivo ponašanje.

Budite eksplicitni u vezi s zadatkom, publikom i očekivanim formatom. Dajte modelu ulogu i kontekst koji bi novom kolegi bili potrebni. Prikažite jedan ili dva primjera dobrih odgovora kada format ima značaj. Odvojite upute od podataka — i recite modelu da je preuzeti tekst informacija za korištenje, a ne naredbi za slijediti. Zamolite ga da razmišlja korak po korak o složenim zahtjevima; Wei i suradnici su 2022. pokazali da ovo “razmišljanje u nizu” poboljšava rezultate na višestepenim problemima. I recite što učiniti kada informacije nedostaju.

Pružatelji modela objavljuju vlastite vodiče; dokumentacija Anthropic, na primjer, preporučuje da budete jasni i izravni, koristeći primjere i dajući modelu prostora za razmišljanje.

Najčešća je sve veći upit: svaki loš odgovor dovodi do još jednog pravila, sve dok se pravila ne protive jedno drugome i model ne slijedi nijedno od njih dobro. Primjeri s malo primjera kopirani riječ po riječ u odgovore su još jedna zamka — uključujući primjere napisane na engleskom, što može potaknuti asistenta da odgovara na engleskom. Također je problem stavljanje činjenica koje se mijenjaju, poput cijena, u upit umjesto u bazu znanja.

Upit bi trebao opisivati ponašanje. Činjenice pripadaju bazi znanja, a živi podaci alatima.

U AI SmartTalk sistemski upit se naziva biografijom asistenta. Vođeni obrazac pomaže u njegovom pisanju — identitet, stil komunikacije i pravila, s prijateljskim, profesionalnim, neutralnim ili prilagođenim tonom — a prethodne verzije se čuvaju kako bi se promjena mogla usporediti ili poništiti. Pravila odlučivanja i politika predaje postavljaju se odvojeno, a ugrađene politike poput odgovaranja na jeziku posjetitelja dodaju se putem platforme.