Inginerie de prompturi

Un model de limbaj vede doar textul pe care îl primește. Pentru un asistent de servicii pentru clienți, acel text are de obicei mai multe straturi: un prompt de sistem care descrie cine este asistentul, cui îi servește și ce nu trebuie să facă niciodată; material de referință recuperat pentru întrebarea curentă; descrierile instrumentelor pe care le poate folosi; și conversația de până acum.

Ingineria de prompturi este munca de a face acel pachet clar și consistent. Instrucțiunile vagi („fii de ajutor”) produc comportamente vagi; cele specifice („dacă numărul comenzii lipsește, cere-l înainte de a căuta”) produc comportamente previzibile.

Fii explicit în legătură cu sarcina, publicul și formatul așteptat. Dă modelului un rol și contextul de care ar avea nevoie un nou coleg. Arată unul sau două exemple de răspunsuri bune atunci când formatul contează. Separă instrucțiunile de date — și spune modelului că textul recuperat este informație de folosit, nu ordine de urmat. Cere-i să raționeze pas cu pas la cereri complexe; Wei și colegii au arătat în 2022 că acest tip de promptare „în lanț” îmbunătățește rezultatele la problemele cu mai mulți pași. Și spune ce să facă atunci când informațiile lipsesc.

Furnizorii de modele publică propriile ghiduri; documentația Anthropic, de exemplu, recomandă să fii clar și direct, să folosești exemple și să oferi modelului spațiu pentru a gândi.

Cea mai comună este promptul în continuă expansiune: fiecare răspuns prost duce la o regulă în plus, până când regulile se contrazic între ele și modelul nu le urmează bine pe niciuna. Exemplele cu câteva încercări copiate cuvânt cu cuvânt în răspunsuri sunt o altă capcană — inclusiv exemple scrise în engleză, care pot împinge asistentul să răspundă în engleză. La fel este și introducerea faptelor care se schimbă, cum ar fi prețurile, în prompt în loc de o bază de cunoștințe.

Un prompt ar trebui să descrie comportamentul. Faptele aparțin bazei de cunoștințe, iar datele live în instrumente.

În AI SmartTalk, promptul de sistem se numește biografia asistentului. Un formular ghidat ajută la redactarea acestuia — identitate, stil de comunicare și reguli, cu un ton prietenos, profesional, neutru sau personalizat — și versiunile anterioare sunt păstrate astfel încât o modificare să poată fi comparată sau anulată. Regulile de decizie și politica de transfer sunt stabilite separat, iar politicile încorporate, cum ar fi răspunsul în limba vizitatorului, sunt adăugate de platformă.