Інженерія запитів

Мовна модель бачить лише текст, який вона отримує. Для асистента служби підтримки цей текст зазвичай має кілька шарів: системний запит, що описує, хто є асистентом, кому він служить і що він ніколи не повинен робити; довідковий матеріал, отриманий для поточного запитання; описи інструментів, які вона може використовувати; та розмову до цього моменту.

Інженерія запитів — це робота над тим, щоб зробити цей пакет зрозумілим і послідовним. Неясні інструкції (“будь корисним”) призводять до неясної поведінки; специфічні (“якщо номер замовлення відсутній, запитайте його перед пошуком”) призводять до передбачуваної поведінки.

Будьте чіткими щодо завдання, аудиторії та очікуваного формату. Дайте моделі роль і контекст, які потрібні новому колезі. Покажіть один або два приклади хороших відповідей, коли формат має значення. Відокремлюйте інструкції від даних — і скажіть моделі, що отриманий текст є інформацією для використання, а не наказами для виконання. Попросіть її міркувати крок за кроком у складних запитах; Вей та колеги показали у 2022 році, що таке “ланцюгове міркування” покращує результати в багатоступеневих проблемах. І скажіть, що робити, коли інформація відсутня.

Постачальники моделей публікують свої власні посібники; документація Anthropic, наприклад, рекомендує бути чіткими та прямими, використовувати приклади та давати моделі можливість думати.

Найпоширеніша — це постійно зростаючий запит: кожна погана відповідь призводить до ще одного правила, поки правила не починають суперечити одне одному, і модель не виконує жодне з них добре. Приклади з кількома спробами, скопійовані слово в слово у відповіді, — ще одна пастка — включаючи приклади, написані англійською, які можуть змусити асистента відповідати англійською. Також небезпечно включати факти, які змінюються, такі як ціни, у запит замість бази знань.

Запит має описувати поведінку. Факти належать до бази знань, а живі дані — до інструментів.

У AI SmartTalk системний запит називається біографією асистента. Керована форма допомагає його написати — ідентичність, стиль спілкування та правила, з дружнім, професійним, нейтральним або індивідуальним тоном — і попередні версії зберігаються, щоб зміни можна було порівняти або скасувати. Правила прийняття рішень та політика передачі встановлюються окремо, а вбудовані політики, такі як відповідь мовою відвідувача, додаються платформою.