Aicinājumu inženierija

Valodas modelis redz tikai to tekstu, ko tas saņem. Klientu apkalpošanas asistentam šis teksts parasti ir vairāku slāņu: sistēmas aicinājums, kas apraksta, kas ir asistents, kam tas kalpo un ko tam nekad nevajadzētu darīt; atsauces materiāls, kas iegūts aktuālajai jautājumam; rīku apraksti, ko tas var izmantot; un saruna līdz šim.

Aicinājumu inženierija ir darbs, lai padarītu šo paketi skaidru un konsekventu. Neskaidras instrukcijas (“esi noderīgs”) rada neskaidru uzvedību; specifiskas (“ja trūkst pasūtījuma numura, pajautā to pirms meklēšanas”) rada paredzamu uzvedību.

Esi skaidrs par uzdevumu, auditoriju un sagaidāmo formātu. Dod modelim lomu un kontekstu, kādu jaunais kolēģis vajadzētu zināt. Parādi vienu vai divus labu atbilžu piemērus, kad formāts ir svarīgs. Atšķir instrukcijas no datiem — un pasaki modelim, ka iegūtais teksts ir informācija, ko izmantot, nevis rīkojumi, ko izpildīt. Lūdz to domāt soli pa solim sarežģītās pieprasījumos; Wei un kolēģi 2022. gadā parādīja, ka šī “domāšanas ķēdes” aicināšana uzlabo rezultātus daudzsoļu problēmām. Un saki, ko darīt, kad informācija trūkst.

Modeļu nodrošinātāji publicē savus vadlīnijas; piemēram, Anthropic dokumentācija iesaka būt skaidram un tiešam, izmantot piemērus un dot modelim telpu domāšanai.

Visbiežākā ir nepārtraukti augošais aicinājums: katra slikta atbilde noved pie vēl viena noteikuma, līdz noteikumi viens otru apstrīd un modelis tos neievēro labi. Daudzsoļu piemēri, kas vārds vārdā kopēti atbildēs, ir vēl viena slazds — tostarp piemēri, kas rakstīti angļu valodā, kas var mudināt asistentu atbildēt angļu valodā. Tāpat ir nepareizi iekļaut mainīgas faktus, piemēram, cenas, aicinājumā, nevis zināšanu bāzē.

Aicinājumam vajadzētu aprakstīt uzvedību. Fakti pieder pie zināšanu bāzes, bet dzīvie dati — rīkos.

AI SmartTalk sistēmas aicinājums tiek saukts par asistenta biogrāfiju. Vadīta forma palīdz to uzrakstīt — identitāte, komunikācijas stils un noteikumi, ar draudzīgu, profesionālu, neitrālu vai pielāgotu toni — un iepriekšējās versijas tiek saglabātas, lai izmaiņas varētu salīdzināt vai atcelt. Lēmumu noteikumi un nodošanas politika tiek noteikti atsevišķi, un platforma pievieno iebūvētas politikas, piemēram, atbildēšanu apmeklētāja valodā.