Generasi diperkuat pengambilan (RAG)
Definisi ringkas
Generasi diperkuat pengambilan (RAG) adalah teknik di mana sistem AI pertama kali mengambil petikan yang relevan dari sumber yang dipercayai, seperti pangkalan pengetahuan atau katalog produk, kemudian memberikannya kepada model bahasa supaya jawapannya bergantung pada petikan tersebut dan bukan hanya pada ingatannya.
Pada halaman ini
Mengapa RAG wujud
Model bahasa belajar dari snapshot teks yang tetap. Ia tidak tahu tentang polisi pemulangan anda, harga semasa anda atau produk yang anda tambahkan pagi ini, dan apabila ditanya, ia mungkin menghasilkan jawapan yang plausible tetapi salah. Melatih semula model setiap kali kandungan anda berubah akan menjadi lambat dan mahal.
RAG menyelesaikan ini dengan menyimpan pengetahuan di luar model. Kandungan anda kekal dalam stor yang boleh dicari yang boleh anda kemas kini pada bila-bila masa; model hanya diminta untuk membaca petikan yang relevan dan merumuskan jawapan. Pendekatan ini diterangkan oleh Lewis dan rakan-rakan di Facebook AI Research pada tahun 2020.
Cara ia berfungsi, langkah demi langkah
Pertama, kandungan disediakan: dokumen, halaman web atau rekod produk dibahagikan kepada petikan, dan setiap petikan ditukar menjadi embedding — senarai nombor yang menangkap maknanya. Embedding ini disimpan dalam indeks vektor, sering kali bersama indeks kata kunci klasik.
Apabila soalan tiba, ia ditukar dengan cara yang sama dan petikan terdekat diambil, kadangkala digabungkan dengan carian kata kunci atau penapis seperti bahasa atau kategori. Petikan terbaik dimasukkan ke dalam arahan model dengan arahan untuk menjawab berdasarkan petikan tersebut. Banyak sistem juga mengembalikan sumber, supaya pembaca dapat memeriksa dari mana jawapan itu datang.
Had yang perlu diketahui
RAG hanya sebaik apa yang diambil. Jika petikan yang tepat hilang, tidak terkini atau dibahagikan dengan buruk, model menjawab dari petikan yang salah atau kembali kepada ingatannya. Soalan yang terstruktur — "jaket termurah dalam stok saiz M" — tidak dilayani dengan baik hanya dengan carian kesamaan dan memerlukan penapis pada data sebenar. Dan model masih boleh salah membaca petikan, jadi jawapan mengenai topik sensitif harus diperiksa atau ditingkatkan.
Itulah sebabnya sistem pengeluaran menggabungkan RAG dengan carian terstruktur, peraturan kesegaran yang menyelaraskan semula kandungan apabila ia berubah, dan arahan yang jelas untuk mengatakan apabila sumber tidak mengandungi jawapan.
RAG dalam perkhidmatan pelanggan
Untuk pembantu sokongan atau e-dagang, RAG adalah apa yang membolehkan ejen menjawab dari FAQ anda, polisi anda dan katalog anda dalam bahasa pelanggan, dan merujuk kepada halaman yang digunakannya. Dalam AI SmartTalk, pengetahuan yang dijawab oleh pembantu — halaman web, dokumen, entri FAQ dan produk yang diselaraskan — diindeks dengan cara ini, dan soalan produk juga menggunakan penapis pada harga, pilihan dan stok.
Soalan lazim
Adakah RAG sama dengan fine-tuning?
Tidak. Fine-tuning mengubah berat model dengan melatihnya pada contoh; RAG membiarkan model tidak berubah dan memberikan maklumat yang tepat pada waktu soalan. RAG biasanya pilihan yang lebih baik untuk fakta yang berubah, seperti harga, stok atau polisi.
Adakah RAG menghentikan halusinasi AI?
Ia mengurangkannya dengan banyak, kerana model menjawab dari petikan sebenar, tetapi ia tidak menghapuskannya. Pengambilan yang baik, arahan untuk mengakui apabila sumber tidak memberikan jawapan, dan penyerahan kepada seseorang untuk kes sensitif masih diperlukan.
Apakah pangkalan data vektor?
Sebuah stor yang mengindeks embedding supaya petikan yang paling dekat dalam makna dengan soalan dapat ditemui dengan cepat. Ia adalah lapisan pengambilan biasa bagi sistem RAG, sering kali dipasangkan dengan carian kata kunci.
Bolehkah RAG berfungsi dengan katalog produk?
Ya, tetapi produk memerlukan lebih daripada carian kesamaan: seorang pembantu harus menapis pada medan terstruktur seperti harga, saiz atau stok, kemudian menggunakan RAG untuk penerangan dan panduan pembelian.