RAG : ancrer l'IA dans vos documents

Le RAG, pour Retrieval-Augmented Generation (génération augmentée par récupération), est une technique qui consiste à fournir à un modèle de langage les documents pertinents au moment de répondre, plutôt que de compter sur ce qu'il a mémorisé pendant son entraînement.

C'est aujourd'hui l'approche la plus courante pour construire un assistant qui répond sur vos contenus : documentation interne, base de connaissances, réglementation, catalogue produits ou archives d'un site.

Pourquoi ne pas simplement entraîner un modèle sur ses données ?

C'est la question qui revient souvent ; réentraîner ou affiner un modèle sur vos documents est possible, mais rarement pertinent pour un projet web ou une application :

• Le coût : l'affinage demande des moyens de calcul, des compétences spécialisées et un jeu de données de qualité.
• La mise à jour : chaque évolution de vos contenus impliquerait de recommencer. Avec le RAG, il "suffit" d'indexer le nouveau document.
• La traçabilité : un modèle affiné ne peut pas citer ses sources tandis que le RAG si (et c'est mieux pour les utilisateurs).
• Les droits d'accès : le RAG permet de filtrer les documents selon les autorisations de la personne qui pose la question. Un modèle affiné a tout absorbé indistinctement et il est difficile de filtrer avec précisions ses permissions.

Comment fonctionne un RAG ?

Le dispositif se décompose en deux temps : une préparation faite en amont, puis un traitement à chaque question posée.

En amont : l'indexation

• Découpage : les documents sont segmentés en passages de taille raisonnable. La qualité de ce découpage détermine largement la qualité finale. Par exemple couper au milieu d'un tableau ou d'un raisonnement produit des réponses incohérentes.
• Vectorisation : chaque passage est converti en une suite de nombres (un embedding) représentant son sens. Deux textes de sens proche obtiennent des valeurs proches, même sans partager de vocabulaire.
• Stockage : ces vecteurs sont rangés dans une base spécialisée permettant de retrouver rapidement les passages les plus proches d'une question.

À chaque question : la récupération

• Recherche : la question est vectorisée à son tour, puis comparée à l'index pour extraire les passages les plus pertinents.
• Reclassement : un second tri affine la sélection, car la proximité vectorielle seule remonte régulièrement des passages hors sujet.
• Génération : les passages retenus sont transmis au modèle avec la question et une consigne stricte : répondre uniquement à partir de ces éléments, et indiquer lorsqu'ils ne suffisent pas.
• Citation : la réponse affiche les sources utilisées, pour que l'utilisateur puisse vérifier.

La partie « intelligente » d'un RAG n'est pas le modèle de langage, c'est la recherche documentaire. Un projet raté l'est presque toujours à cause d'une indexation approximative, rarement à cause du modèle choisi.

Ce que le RAG résout, et ce qu'il ne résout pas

Notions liées : les modèles de langage, les agents IA qui peuvent utiliser un RAG comme outil, et le protocole MCP pour connecter un modèle à vos systèmes.