Chatbot RAG
Un chatbot RAG est une IA conversationnelle qui utilise la génération augmentée par récupération : au moment de répondre, il recherche les informations pertinentes dans une source de connaissances et s'appuie sur ce contenu récupéré pour ancrer sa réponse, au lieu de se fier uniquement à ce que le modèle a mémorisé pendant son entraînement.
RAG signifie « retrieval-augmented generation » (génération augmentée par récupération). Un chatbot RAG associe un grand modèle de langage à une étape de récupération : lorsqu'un utilisateur pose une question, le système recherche d'abord dans une source de connaissances (articles d'aide, documentation produit, politiques, anciens tickets) les passages les plus pertinents, puis transmet ces passages au modèle comme contexte, afin que la réponse générée s'appuie sur des informations réelles et à jour plutôt que sur les seules données générales d'entraînement du modèle.
Concrètement, la source de connaissances est généralement découpée en fragments, convertie en plongements vectoriels (embeddings) et stockée dans une base de données vectorielle ou un index de recherche. Au moment de la requête, la question de l'utilisateur est vectorisée et comparée à cet index pour récupérer les passages les plus proches. Ces passages sont insérés dans le prompt, et le modèle génère une réponse qui s'en inspire, souvent avec des citations renvoyant à la source.
Le principal avantage du RAG par rapport à un simple modèle de langage tient à l'exactitude et à l'actualité. Comme les réponses sont liées au contenu récupéré, un chatbot RAG peut refléter des informations qui n'existaient pas lors de l'entraînement du modèle, rester aligné sur vos politiques spécifiques et réduire les hallucinations en fournissant au modèle une matière faisant autorité. Mettre à jour la base de connaissances met à jour les réponses du bot. Aucun réentraînement du modèle n'est nécessaire.
Le RAG n'est pas une solution miracle. La qualité des réponses dépend fortement de la qualité de la récupération : si l'index manque de contenu, est mal découpé ou renvoie des passages non pertinents, le modèle peut tout de même produire des réponses erronées ou vagues. Les bons systèmes RAG investissent dans un contenu source propre, un découpage judicieux, un classement de récupération solide et des contrôles d'ancrage qui empêchent le modèle de s'écarter de ce qui a été récupéré.
Mercateer repose sur ce principe axé sur la connaissance. Chaque agent puise dans vos propres documents, FAQ et politiques et ancre ses réponses dans cette matière, de sorte que les réponses restent exactes et conformes aux règles, plus proches d'un système RAG bien conçu que d'un arbre de décision scénarisé qui ne connaît que les chemins câblés à la main à l'avance.
Termes associés
