Chatbot RAG
Chatbot RAG ialah AI perbualan yang menggunakan penjanaan tertambah perolehan: ia mencari maklumat yang berkaitan daripada sumber pengetahuan semasa menjawab dan menggunakan kandungan yang diperoleh itu untuk mengasaskan responsnya, dan bukannya bergantung semata-mata pada apa yang dihafal oleh model semasa latihan.
RAG bermaksud penjanaan tertambah perolehan (retrieval-augmented generation). Chatbot RAG menggabungkan model bahasa besar dengan langkah perolehan: apabila pengguna bertanya soalan, sistem mula-mula mencari sumber pengetahuan (artikel bantuan, dokumen produk, dasar, tiket lepas) untuk petikan yang paling berkaitan, kemudian menyampaikan petikan itu kepada model sebagai konteks supaya jawapan yang dijana berdasarkan maklumat yang sebenar dan terkini, bukan semata-mata data latihan umum model.
Secara mekanikal, sumber pengetahuan biasanya dipecahkan kepada bahagian-bahagian, ditukar kepada pembenaman vektor, dan disimpan dalam pangkalan data vektor atau indeks carian. Semasa pertanyaan, soalan pengguna dibenamkan dan dipadankan dengan indeks itu untuk memperoleh petikan yang paling hampir. Petikan tersebut dimasukkan ke dalam gesaan, dan model menjana balasan yang berdasarkannya, selalunya dengan petikan rujukan kembali ke sumber.
Kelebihan utama RAG berbanding model bahasa biasa ialah ketepatan dan kesegaran. Oleh kerana jawapan terikat pada kandungan yang diperoleh, chatbot RAG boleh mencerminkan maklumat yang tidak wujud semasa model dilatih, kekal selari dengan dasar khusus anda, dan mengurangkan halusinasi dengan memberi model bahan berwibawa untuk digunakan. Mengemas kini pangkalan pengetahuan akan mengemas kini jawapan bot. Tiada latihan semula model diperlukan.
RAG bukanlah penyelesaian ajaib. Kualiti jawapan banyak bergantung pada kualiti perolehan: jika indeks kekurangan kandungan, dipecahkan dengan teruk, atau mengembalikan petikan yang tidak berkaitan, model masih boleh menghasilkan jawapan yang salah atau samar. Sistem RAG yang baik melabur dalam kandungan sumber yang bersih, pemecahan yang munasabah, kedudukan perolehan yang kukuh, dan semakan pengasasan yang menghalang model daripada terpesong melebihi apa yang diperoleh.
Mercateer dibina berdasarkan corak mengutamakan pengetahuan ini. Setiap ejen memperoleh daripada dokumen, soalan lazim, dan dasar anda sendiri serta mengasaskan jawapannya pada bahan itu, jadi balasan kekal tepat dan menepati dasar, lebih dekat dengan sistem RAG yang dibina dengan baik berbanding pepohon keputusan berskrip yang hanya mengetahui laluan yang ditetapkan seseorang lebih awal.
Istilah berkaitan
