Halusinasi AI (halusinasi LLM)

Model bahasa menghasilkan kesinambungan teks yang paling mungkin; ia tidak mempunyai konsep terbina dalam tentang sama ada ayat itu benar. Apabila maklumat yang betul hilang dari data latihannya atau dari petikan yang diberikan, ia masih menghasilkan sesuatu yang kelihatan seperti jawapan. Penyelidikan dari 2025 (Kalai dan rakan-rakan) berpendapat bahawa latihan dan penilaian menjadikan ini lebih teruk dengan memberi ganjaran kepada tekaan yang yakin berbanding dengan “Saya tidak tahu” yang jujur.

Literatur membezakan dua jenis. Halusinasi intrinsik bercanggah dengan sumber yang diberikan kepada model — ia salah membaca polisi pemulangan anda. Halusinasi ekstrinsik menambah tuntutan yang tidak disokong oleh mana-mana sumber — ia mereka bentuk jaminan 60 hari yang anda tidak pernah tawarkan.

Halusinasi dalam sembang sokongan bukanlah kesalahan abstrak. Seorang pelanggan yang diberitahu bahawa pemulangan adalah percuma, bahawa produk adalah kalis air atau bahawa bungkusan akan tiba esok akan bertindak berdasarkan maklumat itu, dan mungkin akan memegang perniagaan kepada maklumat tersebut. Mahkamah dan pihak berkuasa pengguna biasanya menganggap chatbot syarikat sebagai bercakap bagi pihak syarikat.

Risiko adalah paling tinggi pada komitmen: harga, stok, tarikh penghantaran, jaminan, pemulangan, maklumat undang-undang atau kesihatan. Itulah soalan yang paling sering ditanya oleh pelanggan.

Tiada kaedah yang menghapuskan mereka sepenuhnya, tetapi beberapa mengurangkan mereka dengan ketara. Dasarkan jawapan dalam kandungan anda sendiri dengan penghasilan yang dipertingkatkan pengambilan (RAG), dan pastikan kandungan itu terkini. Gunakan alat untuk membaca data langsung — stok, pesanan — daripada membiarkan model mengingatnya. Arahkan model untuk menyatakan apabila sumber tidak mengandungi jawapan, dan jadikan itu sebagai hasil yang boleh diterima. Memerlukan bukti sebelum sebarang komitmen. Serahkan perbualan kepada seseorang apabila soalan itu sensitif atau ejen tidak pasti.

Kemudian ukur: semak perbualan, terutamanya yang mempunyai maklum balas negatif, dan tambahkan maklumat yang hilang ke dalam pangkalan pengetahuan daripada menampal arahan untuk setiap kes.

Pembantu AI SmartTalk menjawab daripada kandungan dan katalog yang diindeks oleh perniagaan, dan membaca produk dan pesanan melalui alat daripada daripada ingatan model. Peraturan terbina dalam mereka memerlukan bukti yang diperoleh sebelum menyatakan komitmen seperti jaminan, penghantaran, pemulangan atau stok, dan melarang mendakwa bahawa pemindahan atau tiket berlaku kecuali alat itu benar-benar berjaya. Maklum balas jari ke bawah dan soalan yang tidak dapat dijawab oleh pembantu ditunjukkan kepada pasukan supaya pangkalan pengetahuan dapat dilengkapkan.