Grounding AI

Grounding AI berarti menghubungkan keluaran model dengan sumber kebenaran yang tepercaya sehingga apa yang dikatakannya dapat dilacak kembali ke informasi nyata. Alih-alih menghasilkan jawaban semata dari pola yang dipelajari selama pelatihan, sistem yang ter-grounding mendasarkan responsnya pada bukti spesifik yang dapat diambil: dokumen perusahaan, basis pengetahuan, catatan basis data, atau hasil API langsung.

Grounding secara langsung mengatasi salah satu risiko terbesar AI generatif: halusinasi, di mana model menyatakan sesuatu yang fasih dan meyakinkan tetapi sebenarnya salah. Dengan membatasi model agar menjawab dari bukti yang disediakan (dan idealnya mengutipnya), grounding membuat jawaban lebih akurat, lebih dapat diaudit, dan lebih mudah dipercaya dalam situasi berisiko tinggi seperti dukungan pelanggan, di mana kebijakan atau harga yang dikarang bisa menimbulkan kerugian nyata.

Retrieval-augmented generation (RAG) adalah cara paling umum untuk meng-grounding sebuah model: bagian yang relevan diambil dari sumber pengetahuan dan disediakan sebagai konteks saat menjawab. Grounding juga dapat memanfaatkan data terstruktur dan pemanggilan alat: misalnya, mencari pesanan atau akun tertentu agar respons mencerminkan situasi sebenarnya pelanggan tersebut, bukan tebakan umum.

Grounding yang kuat memadukan pengambilan dengan batasan: sistem sebaiknya lebih memilih mengatakan tidak tahu, atau menyerahkan ke manusia, ketimbang mengarang jawaban saat buktinya tidak ada. Kutipan, sinyal keyakinan, dan jalur cadangan yang jelas semuanya membantu menjaga agen yang ter-grounding tetap jujur tentang batas apa yang dapat ia dukung.

Grounding adalah fondasi dari desain Mercateer yang mengutamakan pengetahuan. Setiap agen menjawab dari dokumen bantuan, FAQ, dan kebijakan Anda sendiri, ditambah tindakan langsung seperti pencarian pesanan, sehingga respons tetap terikat pada informasi nyata Anda, dan agen menyerahkan secara rapi alih-alih menebak saat ia tidak yakin.