Ukotvení AI

Ukotvení AI znamená propojit výstup modelu s důvěryhodným zdrojem pravdy tak, aby to, co model říká, šlo dohledat zpět ke skutečným informacím. Místo aby odpověď vytvářel čistě ze vzorců naučených během trénování, opírá ukotvený systém svou odpověď o konkrétní dohledatelné podklady: firemní dokumenty, znalostní bázi, záznam v databázi nebo aktuální výsledek z API.

Ukotvení přímo řeší jedno z největších rizik generativní AI: halucinaci, kdy model uvede něco plynulého a sebejistého, co je ovšem prostě nesprávné. Tím, že model nutí odpovídat z dodaných podkladů (a v ideálním případě je i citovat), činí ukotvení odpovědi přesnějšími, lépe ověřitelnými a důvěryhodnějšími v situacích s vysokou mírou rizika, jako je zákaznická podpora, kde vymyšlené pravidlo nebo cena mohou způsobit skutečnou škodu.

Generování rozšířené o vyhledávání (RAG) je nejběžnější způsob, jak model ukotvit: relevantní pasáže se vyhledají ze znalostního zdroje a v okamžiku odpovědi se předají jako kontext. Ukotvení může čerpat také ze strukturovaných dat a volání nástrojů: například vyhledat konkrétní objednávku nebo účet, aby odpověď odrážela skutečnou situaci daného zákazníka, a ne obecný odhad.

Silné ukotvení spojuje vyhledávání s pojistkami: systém by měl raději přiznat, že neví, nebo předat hovor člověku, než aby si odpověď vymyslel, když chybí podklady. Citace, signály jistoty a jasné záložní postupy pomáhají udržet ukotveného agenta upřímného ohledně toho, kde jsou hranice toho, co dokáže obsloužit.

Ukotvení je základem návrhu Mercateer, který staví na prvním místě znalosti. Každý agent odpovídá z vašich vlastních nápovědních dokumentů, FAQ a pravidel, k tomu má živé akce jako vyhledávání objednávek, takže odpovědi zůstávají navázané na vaše skutečné informace, a když si agent není jistý, místo hádání hovor čistě předá.