AI ग्राउंडिंग

AI ग्राउंडिंग का मतलब है किसी मॉडल के आउटपुट को सच्चाई के एक भरोसेमंद स्रोत से जोड़ना ताकि वह जो कहे उसे असली जानकारी तक वापस खोजा जा सके। प्रशिक्षण के दौरान सीखे गए पैटर्न से ही पूरी तरह जवाब तैयार करने के बजाय, एक ग्राउंडेड सिस्टम अपने जवाब को ख़ास, खोजे जा सकने वाले प्रमाण पर आधारित रखता है: कंपनी के दस्तावेज़, एक नॉलेज बेस, एक डेटाबेस रिकॉर्ड, या एक लाइव API परिणाम।

ग्राउंडिंग जेनरेटिव AI के सबसे बड़े जोखिमों में से एक को सीधे संबोधित करती है: मनगढ़ंत जवाब, जहाँ कोई मॉडल कुछ ऐसा धाराप्रवाह और आत्मविश्वास के साथ कह देता है जो असल में बिल्कुल ग़लत होता है। मॉडल को दी गई सामग्री (और बेहतर हो तो उसका संदर्भ देते हुए) से ही जवाब देने तक सीमित रखकर, ग्राउंडिंग जवाबों को ज़्यादा सटीक, ज़्यादा जाँच-योग्य, और ग्राहक सहायता जैसी ऊँचे-दाँव वाली स्थितियों में भरोसा करने लायक बनाती है, जहाँ कोई मनगढ़ंत नीति या क़ीमत असली नुक़सान पहुँचा सकती है।

किसी मॉडल को ग्राउंड करने का सबसे आम तरीक़ा रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) है: प्रासंगिक अंश किसी नॉलेज स्रोत से लाए जाते हैं और जवाब देते समय संदर्भ के रूप में दिए जाते हैं। ग्राउंडिंग संरचित डेटा और टूल कॉल का भी सहारा ले सकती है: उदाहरण के लिए, किसी ख़ास ऑर्डर या खाते को खोजना ताकि जवाब किसी आम अंदाज़े के बजाय उस ग्राहक की असली स्थिति को दर्शाए।

मज़बूत ग्राउंडिंग रिट्रीवल को सुरक्षा-सीमाओं के साथ जोड़ती है: जब प्रमाण मौजूद न हो, तो सिस्टम को कोई मनगढ़ंत जवाब बनाने के बजाय यह कहना पसंद करना चाहिए कि उसे नहीं पता, या किसी इंसान को काम सौंप देना चाहिए। संदर्भ (citations), आत्मविश्वास के संकेत, और साफ़ फ़ॉलबैक, ये सब एक ग्राउंडेड एजेंट को इस बारे में ईमानदार बनाए रखने में मदद करते हैं कि वह किस हद तक सहारा दे सकता है।

ग्राउंडिंग Mercateer की नॉलेज-फ़र्स्ट डिज़ाइन की नींव है। हर एजेंट आपके अपने हेल्प डॉक्स, FAQ और नीतियों से, साथ ही ऑर्डर खोजने जैसी लाइव कार्रवाइयों से जवाब देता है, ताकि जवाब आपकी असली जानकारी से जुड़े रहें, और जब एजेंट को पक्का न हो तो वह अंदाज़ा लगाने के बजाय साफ़-सुथरे ढंग से काम सौंप देता है।