İstek mühendisliği

Bir dil modeli yalnızca aldığı metni görür. Bir müşteri hizmetleri asistanı için, bu metin genellikle birkaç katmandan oluşur: asistanın kim olduğunu, kime hizmet ettiğini ve asla ne yapmaması gerektiğini tanımlayan bir sistem isteği; mevcut soru için alınan referans materyali; kullanabileceği araçların tanımları; ve şimdiye kadar olan konuşma.

İstek mühendisliği, bu paketi net ve tutarlı hale getirme işidir. Belirsiz talimatlar (“yardımcı ol”) belirsiz davranışlar üretir; spesifik olanlar (“sipariş numarası eksikse, aramadan önce sor”) öngörülebilir davranışlar üretir.

Görev, hedef kitle ve beklenen format hakkında açık olun. Modele bir rol verin ve yeni bir meslektaşın ihtiyaç duyacağı bağlamı sağlayın. Format önemli olduğunda iyi cevapların bir veya iki örneğini gösterin. Talimatları verilerden ayırın — ve modele alınan metnin kullanılacak bilgi olduğunu, takip edilecek emirler olmadığını söyleyin. Karmaşık taleplerde adım adım düşünmesini isteyin; Wei ve meslektaşları 2022'de bu “düşünce zinciri” isteminin çok adımlı sorunlarda sonuçları iyileştirdiğini gösterdi. Ve bilgi eksik olduğunda ne yapılacağını belirtin.

Model sağlayıcıları kendi kılavuzlarını yayınlar; örneğin Anthropic'in belgeleri, açık ve doğrudan olmayı, örnekler kullanmayı ve modele düşünmesi için alan tanımayı önerir.

En yaygın olanı, sürekli büyüyen istektir: her kötü cevap bir kural daha ekler, ta ki kurallar birbirini çelişir hale gelene kadar ve model bunların hiçbirini iyi bir şekilde takip etmez. Cevaplara kelime kelime kopyalanan birkaç örnek başka bir tuzaktır — İngilizce yazılmış örnekler dahil, bu asistanı İngilizce cevap vermeye itebilir. Değişen gerçekleri, örneğin fiyatları, bir bilgi tabanına koymak yerine isteğe koymak da bir tuzaktır.

Bir istek davranışı tanımlamalıdır. Gerçekler bilgi tabanında ve canlı veriler araçlarda yer almalıdır.

AI SmartTalk'ta sistem isteği asistanın biyografisi olarak adlandırılır. Bir rehber form, bunu yazmaya yardımcı olur — kimlik, iletişim tarzı ve kurallar, dostane, profesyonel, tarafsız veya özel bir ton ile — ve önceki sürümler saklanır, böylece bir değişiklik karşılaştırılabilir veya geri alınabilir. Karar kuralları ve devretme politikası ayrı olarak belirlenir ve ziyaretçinin dilinde cevap verme gibi yerleşik politikalar platform tarafından eklenir.