Fonamentació de la IA

La fonamentació de la IA consisteix a connectar la sortida d'un model a una font de veritat de confiança, de manera que el que diu es pugui rastrejar fins a informació real. En lloc de generar una resposta únicament a partir de patrons apresos durant l'entrenament, un sistema fonamentat basa la seva resposta en proves concretes i recuperables: documents de l'empresa, una base de coneixement, un registre d'una base de dades o el resultat d'una API en directe.

La fonamentació aborda directament un dels riscos més grans de la IA generativa: l'al·lucinació, quan un model afirma alguna cosa de manera fluida i segura que simplement és errònia. En obligar el model a respondre a partir de les proves subministrades (i, idealment, citant-les), la fonamentació fa que les respostes siguin més precises, més auditables i més fàcils de creure en entorns d'alt risc com l'atenció al client, on una política o un preu inventats poden causar un perjudici real.

La generació augmentada per recuperació (RAG) és la manera més habitual de fonamentar un model: es recuperen passatges rellevants d'una font de coneixement i es proporcionen com a context en el moment de respondre. La fonamentació també pot recórrer a dades estructurades i a crides a eines: per exemple, consultar una comanda o un compte concret perquè la resposta reflecteixi la situació real d'aquell client en lloc d'una conjectura genèrica.

Una fonamentació sòlida combina la recuperació amb mesures de protecció: el sistema hauria de preferir dir que no ho sap, o derivar la consulta a una persona, abans que inventar-se una resposta quan no hi ha proves. Les citacions, els senyals de confiança i les alternatives clares ajuden a mantenir un agent fonamentat honest sobre els límits del que pot resoldre.

La fonamentació és la base del disseny centrat en el coneixement de Mercateer. Cada agent respon a partir de la teva pròpia documentació d'ajuda, les preguntes freqüents i les teves polítiques, a més d'accions en directe com ara consultes de comandes, de manera que les respostes es mantenen lligades a la teva informació real, i l'agent deriva la consulta amb naturalitat en lloc d'endevinar quan no està segur.