AI-forankring

AI-forankring betyder at forbinde en models output med en pålidelig kilde til sandhed, så det, den siger, kan spores tilbage til reel information. I stedet for udelukkende at generere et svar ud fra mønstre lært under træningen baserer et forankret system sit svar på konkret, fremfindeligt belæg: virksomhedsdokumenter, en vidensbase, en databasepost eller et live-API-resultat.

Forankring adresserer direkte en af de største risici ved generativ AI: hallucination, hvor en model fremfører noget flydende og selvsikkert, som blot er forkert. Ved at begrænse modellen til at svare ud fra det leverede belæg (og helst henvise til det) gør forankring svarene mere præcise, mere kontrollerbare og lettere at stole på i situationer med høj risiko som kundeservice, hvor en opdigtet politik eller pris kan gøre reel skade.

Retrieval-augmented generation (RAG) er den mest udbredte måde at forankre en model på: relevante afsnit hentes fra en videnskilde og gives som kontekst, når der skal svares. Forankring kan også trække på strukturerede data og værktøjskald: for eksempel at slå en bestemt ordre eller konto op, så svaret afspejler den pågældende kundes faktiske situation frem for et generisk gæt.

Stærk forankring kombinerer søgning med rammer: systemet bør hellere sige, at det ikke ved det, eller overdrage til et menneske, end opdigte et svar, når belægget ikke er der. Kildehenvisninger, sikkerhedssignaler og tydelige fallbacks hjælper alle med at holde en forankret agent ærlig om grænserne for, hvad den kan hjælpe med.

Forankring er fundamentet i Mercateers vidensbaserede design. Hver agent svarer ud fra din egen hjælpedokumentation, dine FAQ'er og politikker plus live-handlinger som ordreopslag, så svarene forbliver knyttet til din reelle information, og agenten overdrager rent i stedet for at gætte, når den er i tvivl.