AI-forankring

AI-forankring betyr å koble en modells resultat til en pålitelig sannhetskilde, slik at det den sier kan spores tilbake til reell informasjon. I stedet for å generere et svar utelukkende fra mønstre den lærte under treningen, baserer et forankret system svaret sitt på konkret, hentbart belegg: bedriftsdokumenter, en kunnskapsbase, en databasepost eller et resultat fra et sanntids-API.

Forankring tar direkte tak i en av de største risikoene ved generativ AI: hallusinasjon, der en modell uttaler noe flytende og selvsikkert som rett og slett er feil. Ved å begrense modellen til å svare ut fra det belegget den får (og helst med kildehenvisning), gjør forankring svarene mer nøyaktige, lettere å etterprøve og lettere å stole på i situasjoner med høy innsats som kundestøtte, der en oppdiktet retningslinje eller pris kan gjøre reell skade.

Hentingsforsterket generering (RAG) er den vanligste måten å forankre en modell på: relevante tekstutdrag hentes fra en kunnskapskilde og gis som kontekst idet modellen svarer. Forankring kan også trekke på strukturerte data og verktøykall: for eksempel ved å slå opp en bestemt bestilling eller konto, slik at svaret gjenspeiler kundens faktiske situasjon i stedet for en generisk gjetning.

Sterk forankring kombinerer henting med rammer: systemet bør heller si at det ikke vet, eller overlate til et menneske, enn å dikte opp et svar når belegget ikke finnes. Kildehenvisninger, sikkerhetssignaler og tydelige reserveløsninger bidrar alle til å holde en forankret agent ærlig om grensene for hva den kan stå inne for.

Forankring er fundamentet i Mercateers kunnskapsdrevne design. Hver agent svarer fra dine egne hjelpedokumenter, vanlige spørsmål og retningslinjer, pluss sanntidshandlinger som oppslag av bestillinger, slik at svarene holder seg knyttet til din reelle informasjon, og agenten overlater ryddig til et menneske i stedet for å gjette når den er usikker.