Pengasasan AI
Pengasasan AI ialah amalan mengikat respons model AI pada maklumat yang boleh disahkan dan berwibawa, seperti dokumen anda sendiri atau data langsung, supaya jawapannya mencerminkan fakta sebenar dan bukannya tekaan, sekali gus mengurangkan halusinasi.
Pengasasan AI bermaksud menyambungkan output model kepada sumber kebenaran yang dipercayai supaya apa yang ia sampaikan boleh dijejaki kembali kepada maklumat sebenar. Daripada menjana jawapan semata-mata daripada corak yang dipelajari semasa latihan, sistem yang berasaskan mengasaskan responsnya pada bukti khusus yang boleh diperoleh: dokumen syarikat, pangkalan pengetahuan, rekod pangkalan data, atau hasil API langsung.
Pengasasan secara langsung menangani salah satu risiko terbesar dengan AI generatif: halusinasi, iaitu apabila model menyatakan sesuatu yang lancar dan yakin tetapi sebenarnya salah. Dengan mengehadkan model untuk menjawab daripada bukti yang dibekalkan (dan sebaik-baiknya memetiknya), pengasasan menjadikan jawapan lebih tepat, lebih boleh diaudit, dan lebih mudah dipercayai dalam keadaan berisiko tinggi seperti sokongan pelanggan, yang mana dasar atau harga yang direka-reka boleh menyebabkan kemudaratan sebenar.
Penjanaan tertambah perolehan (RAG) ialah cara yang paling lazim untuk mengasaskan model: petikan yang berkaitan diambil daripada sumber pengetahuan dan dibekalkan sebagai konteks semasa menjawab. Pengasasan juga boleh menggunakan data berstruktur dan panggilan alat: contohnya, mencari pesanan atau akaun tertentu supaya respons mencerminkan situasi sebenar pelanggan itu dan bukannya tekaan umum.
Pengasasan yang kukuh menggandingkan perolehan dengan garis panduan: sistem patut lebih suka mengatakan ia tidak tahu, atau menyerahkan kepada manusia, daripada mereka-reka jawapan apabila buktinya tiada. Petikan rujukan, isyarat keyakinan, dan sandaran yang jelas semuanya membantu memastikan ejen yang berasaskan jujur tentang had apa yang ia boleh sokong.
Pengasasan ialah asas reka bentuk mengutamakan pengetahuan Mercateer. Setiap ejen menjawab daripada dokumen bantuan, soalan lazim, dan dasar anda sendiri, ditambah dengan tindakan langsung seperti carian pesanan, jadi respons kekal terikat pada maklumat sebenar anda, dan ejen menyerahkan dengan kemas dan bukannya meneka apabila tidak pasti.
Istilah berkaitan
