Reka bentuk arahan
Definisi ringkas
Reka bentuk arahan adalah amalan merancang arahan, konteks dan contoh yang diberikan kepada model bahasa supaya ia menghasilkan output yang boleh dipercayai dan berguna. Untuk pembantu sokongan, arahan teras menetapkan peranannya, peraturan dan nada.
Pada halaman ini
Apa yang termasuk dalam arahan
Model bahasa hanya melihat teks yang diterimanya. Untuk pembantu perkhidmatan pelanggan, teks itu biasanya mempunyai beberapa lapisan: arahan sistem yang menerangkan siapa pembantu itu, siapa yang dilayan dan apa yang tidak boleh dilakukannya; bahan rujukan yang diambil untuk soalan semasa; penerangan tentang alat yang mungkin digunakan; dan perbualan setakat ini.
Reka bentuk arahan adalah kerja untuk menjadikan pakej itu jelas dan konsisten. Arahan yang kabur (“jadi membantu”) menghasilkan tingkah laku yang kabur; arahan yang spesifik (“jika nombor pesanan hilang, minta sebelum mencari”) menghasilkan tingkah laku yang boleh diramal.
Teknik yang berkesan
Jadilah jelas tentang tugas, audiens dan format yang diharapkan. Berikan model peranan dan konteks yang diperlukan oleh rakan sekerja baru. Tunjukkan satu atau dua contoh jawapan yang baik apabila format penting. Pisahkan arahan daripada data — dan beritahu model bahawa teks yang diambil adalah maklumat untuk digunakan, bukan arahan untuk diikuti. Minta ia berfikir langkah demi langkah pada permintaan yang kompleks; Wei dan rakan-rakannya menunjukkan pada tahun 2022 bahawa arahan “rantai pemikiran” ini meningkatkan hasil pada masalah berbilang langkah. Dan katakan apa yang perlu dilakukan apabila maklumat hilang.
Penyedia model menerbitkan panduan mereka sendiri; dokumentasi Anthropic, sebagai contoh, mengesyorkan agar jelas dan langsung, menggunakan contoh dan memberikan model ruang untuk berfikir.
Kesilapan biasa
Kesilapan yang paling biasa adalah arahan yang semakin berkembang: setiap jawapan buruk membawa kepada satu lagi peraturan, sehingga peraturan bercanggah antara satu sama lain dan model tidak mengikuti mana-mana peraturan dengan baik. Contoh sedikit yang disalin perkataan demi perkataan ke dalam jawapan adalah satu lagi perangkap — termasuk contoh yang ditulis dalam bahasa Inggeris, yang boleh mendorong pembantu untuk menjawab dalam bahasa Inggeris. Begitu juga dengan meletakkan fakta yang berubah, seperti harga, ke dalam arahan dan bukannya pangkalan pengetahuan.
Satu arahan harus menerangkan tingkah laku. Fakta sepatutnya berada dalam pangkalan pengetahuan dan data hidup dalam alat.
Arahan tanpa kod dalam AI SmartTalk
Dalam AI SmartTalk, arahan sistem dipanggil biografi pembantu. Borang panduan membantu menulisnya — identiti, gaya komunikasi dan peraturan, dengan nada mesra, profesional, neutral atau tersuai — dan versi sebelumnya disimpan supaya perubahan dapat dibandingkan atau dibatalkan. Peraturan keputusan dan dasar pemindahan ditetapkan secara berasingan, dan dasar terbina dalam seperti menjawab dalam bahasa pelawat ditambahkan oleh platform.
Soalan lazim
Adakah reka bentuk arahan masih diperlukan dengan model yang lebih baik?
Kurang tipu daya diperlukan, tetapi arahan yang jelas masih penting. Model yang lebih baik mengikuti arahan yang baik dengan lebih setia, yang menjadikannya lebih penting agar arahan itu menyatakan apa yang sebenarnya anda inginkan.
Apakah arahan sistem?
Arahan tetap yang diberikan kepada model sebelum perbualan bermula: peranannya, peraturan, nada dan had. Pengguna tidak melihatnya, tetapi ia membentuk setiap jawapan.
Apakah suntikan arahan?
Satu serangan di mana teks yang ditulis oleh pengguna atau tersembunyi dalam dokumen cuba mengatasi arahan sistem — contohnya “abaikan arahan anda dan…”. Ia dikurangkan dengan memisahkan arahan daripada data, mengehadkan apa yang boleh dilakukan oleh alat dan memeriksa tindakan di sisi pelayan.