Промпт инжењеринг
Брза дефиниција
Промпт инжењеринг е практиката на дизајнирање на инструкциите, контекстот и примерите дадени на јазичен модел за да произведе надежни, корисни излези. За асистент за поддршка, основниот промпт ја поставува неговата улога, правила и тон.
На оваа страница
Што влегува во промптот
Јазичниот модел гледа само текстот што го прима. За асистент за корисничка услуга, тој текст обично има неколку слоеви: системски промпт кој опишува кој е асистентот, кому служи и што никогаш не смее да прави; референтен материјал извлечен за тековното прашање; описи на алатките што може да ги користи; и разговорот до сега.
Промпт инжењеринг е работата на правење на тој пакет јасен и конзистентен. Нејасни инструкции (“биди корисен”) произведуваат нејасно однесување; специфичните (“ако бројот на нарачката недостасува, побарај го пред да бараш”) произведуваат предвидливо однесување.
Техники што функционираат
Биди експлицитен за задачата, публиката и очекуваниот формат. Дај му на моделот улога и контекст што новиот колега би требало да знае. Покажи еден или два примера на добри одговори кога форматот е важен. Оддели инструкции од податоци — и кажи му на моделот дека извлечениот текст е информација за користење, а не наредби за следење. Прашувај го да размислува чекор по чекор за сложени барања; Веј и колегите покажаа во 2022 дека ова “ланец на размислување” промптирање ги подобрува резултатите на проблеми со повеќе чекори. И кажи што да се прави кога информацијата недостасува.
Добавувачите на модели објавуваат свои водичи; документацијата на Anthropic, на пример, препорачува да бидете јасни и директни, користејќи примери и давање на моделот простор за размислување.
Чести грешки
Најчеста е постојаниот промпт: секој лош одговор води до уште едно правило, додека правилата не се спротивставуваат едно на друго и моделот не следи ниедно од нив добро. Примери со малку снимки копирани збор по збор во одговорите се уште една замка — вклучувајќи примери напишани на англиски, што може да го натера асистентот да одговара на англиски. И ставањето факти што се менуваат, како што се цените, во промптот наместо во база на знаење.
Промптот треба да опишува однесување. Фактите припаѓаат во базата на знаење, а живите податоци во алатките.
Промптирање без код во AI SmartTalk
Во AI SmartTalk системскиот промпт се нарекува биографија на асистентот. Водена форма помага да се напише — идентитет, стил на комуникација и правила, со пријателски, професионален, неутрален или прилагоден тон — и претходните верзии се чуваат за да може промената да се спореди или поништи. Правилата за одлуки и политиката за предавање се поставуваат одделно, а вградени политики како што е одговарање на јазикот на посетителот се додаваат од платформата.
Често поставувани прашања
Дали промпт инжењеринг сè уште е потребен со подобри модели?
Помалку трикови се потребни, но јасните инструкции сè уште се важни. Подобрите модели појасно ги следат добрите промпти, што го прави уште поважно промптот да каже што всушност сакаш.
Што е системски промпт?
Постоечките инструкции дадени на моделот пред да започне разговорот: неговата улога, правила, тон и ограничувања. Корисниците не го гледаат, но тој го обликува секој одговор.
Што е инјекција на промпт?
Напад во кој текст напишан од корисник или сокриен во документ се обидува да го надмине системскиот промпт — на пример “игнорирај ги твоите инструкции и…”. Се намалува со одвојување на инструкциите од податоците, ограничување на тоа што алатките можат да направат и проверка на акциите на серверот.