Fundamentação de IA

A fundamentação de IA significa ligar o resultado de um modelo a uma fonte de verdade fiável, de modo a que aquilo que diz possa ser rastreado até informação real. Em vez de gerar uma resposta puramente a partir de padrões aprendidos durante o treino, um sistema fundamentado baseia a sua resposta em provas específicas e recuperáveis: documentos da empresa, uma base de conhecimento, um registo numa base de dados ou um resultado de uma API em direto.

A fundamentação responde diretamente a um dos maiores riscos da IA generativa: a alucinação, em que um modelo afirma algo fluente e seguro que está simplesmente errado. Ao obrigar o modelo a responder a partir das provas fornecidas (e, idealmente, a citá-las), a fundamentação torna as respostas mais precisas, mais auditáveis e mais fáceis de confiar em contextos de elevada importância como o apoio ao cliente, onde uma política ou um preço inventados podem causar danos reais.

A geração aumentada por recuperação (RAG) é a forma mais comum de fundamentar um modelo: passagens relevantes são obtidas de uma fonte de conhecimento e fornecidas como contexto no momento de responder. A fundamentação também pode recorrer a dados estruturados e a chamadas de ferramentas: por exemplo, consultar uma encomenda ou uma conta específica para que a resposta reflita a situação real desse cliente em vez de uma suposição genérica.

Uma boa fundamentação combina a recuperação com limites de segurança: o sistema deve preferir dizer que não sabe, ou encaminhar para uma pessoa, em vez de inventar uma resposta quando as provas não existem. As citações, os sinais de confiança e os recursos de recurso claros ajudam todos a manter um agente fundamentado honesto quanto aos limites do que consegue suportar.

A fundamentação é a base do desenho centrado no conhecimento do Mercateer. Cada agente responde a partir da sua própria documentação de ajuda, FAQ e políticas, além de ações em direto como consultas de encomendas, para que as respostas se mantenham ligadas à sua informação real, e o agente encaminha de forma limpa em vez de adivinhar quando está em dúvida.