Yapay zeka temellendirmesi

Yapay zeka temellendirmesi, bir modelin çıktısını güvenilir bir doğruluk kaynağına bağlamak anlamına gelir; böylece söyledikleri gerçek bilgilere kadar izlenebilir. Temellendirilmiş bir sistem, yanıtı yalnızca eğitim sırasında öğrenilen örüntülerden üretmek yerine, onu belirli ve getirilebilir kanıtlara dayandırır: şirket belgeleri, bir bilgi tabanı, bir veritabanı kaydı ya da canlı bir API sonucu.

Temellendirme, üretken yapay zekanın en büyük risklerinden birini doğrudan ele alır: modelin akıcı ve kendinden emin bir biçimde, ama düpedüz yanlış bir şey söylediği halüsinasyon. Modeli, sağlanan kanıtlardan yanıt verecek (ve ideal olarak ona atıfta bulunacak) şekilde sınırlandırarak temellendirme, yanıtları daha doğru, daha denetlenebilir ve uydurma bir politikanın ya da fiyatın gerçek zarara yol açabileceği müşteri desteği gibi riski yüksek ortamlarda güvenmesi daha kolay hale getirir.

Getirimle artırılmış üretim (RAG), bir modeli temellendirmenin en yaygın yoludur: ilgili pasajlar bir bilgi kaynağından getirilir ve yanıt anında bağlam olarak sağlanır. Temellendirme yapılandırılmış verilerden ve araç çağrılarından da yararlanabilir: örneğin belirli bir siparişi veya hesabı sorgulayarak, yanıtın genel bir tahmin yerine o müşterinin gerçek durumunu yansıtmasını sağlar.

Güçlü temellendirme, getirimi koruma önlemleriyle birleştirir: kanıt olmadığında sistem, bir yanıt uydurmak yerine bilmediğini söylemeyi ya da bir insana aktarmayı tercih etmelidir. Göndermeler, güven sinyalleri ve net yedek seçenekler, temellendirilmiş bir ajanın neyi destekleyebileceğinin sınırları konusunda dürüst kalmasına yardımcı olur.

Temellendirme, Mercateer'in bilgi öncelikli tasarımının temelidir. Her ajan kendi yardım belgelerinizden, SSS'lerinizden ve politikalarınızdan, ayrıca sipariş sorgulama gibi canlı eylemlerden yanıt verir; böylece yanıtlar gerçek bilgilerinize bağlı kalır ve ajan emin olmadığında tahmin yürütmek yerine düzgün bir biçimde aktarma yapar.