RAG : comment connecter l’IA aux documents de votre entreprise

Le RAG (retrieval augmented generation, ou génération augmentée par récupération) est la technique qui permet à une IA de répondre à partir des documents de votre entreprise : à chaque question, le système recherche les passages pertinents dans vos sources, puis les transmet au modèle de langage, qui rédige une réponse en citant ses références. Le modèle n’apprend rien de vos données, il les consulte au moment de répondre. C’est la méthode de référence pour construire un assistant ou un chatbot sur vos documents internes.

Procédures, contrats, fiches produits, historique des tickets : la connaissance d’une PME est dispersée entre un serveur de fichiers, SharePoint, un Drive, un CRM et des boîtes e-mail. Ce guide explique pourquoi et comment connecter l’IA à ces sources, quand préférer le RAG au fine-tuning, comment respecter les droits d’accès, comment évaluer la qualité des réponses et ce que coûte réellement un projet.

Pourquoi connecter l’IA aux données de votre entreprise ?

Un modèle de langage généraliste ne connaît ni vos procédures, ni vos tarifs, ni vos contrats. Le RAG règle quatre problèmes à la fois.

• Vos données sont privées. Elles ne figurent pas dans l’entraînement des modèles, et c’est tant mieux.
• Vos données évoluent. Un modèle est figé à la date de son entraînement ; un RAG consulte la dernière version du document.
• Les réponses deviennent vérifiables. Chaque réponse cite ses sources : l’utilisateur ouvre le document et contrôle.
• Les hallucinations reculent. Un modèle qui s’appuie sur des passages fournis invente moins qu’un modèle qui répond de mémoire, sans que le risque disparaisse.

La Direction générale des entreprises résume ces bénéfices dans son guide consacré au sujet : le RAG « permet d’améliorer la traçabilité de l’information et de réduire le risque d’hallucinations » (DGE, 2024). Les usages typiques : base de connaissances du support client, assistant qualité qui retrouve la bonne procédure, aide à la réponse aux appels d’offres, recherche dans les contrats, questions des salariés sur les règles RH. Dans chaque cas, l’enjeu est le même : que chacun puisse interroger la mémoire de l’entreprise au lieu de la chercher.

Comment fonctionne un RAG, étape par étape ?

Un RAG travaille en deux temps : la préparation des documents, en amont, puis la réponse, à chaque question.

Préparer et indexer les documents

1. Ingestion. Des connecteurs récupèrent les documents (serveur de fichiers, SharePoint, Drive, Confluence, CRM, tickets) et les convertissent en texte. Les PDF scannés passent par la reconnaissance optique de caractères (OCR) ; les tableaux demandent un traitement spécifique.
2. Nettoyage. On retire les doublons, les versions périmées, les en-têtes et pieds de page répétés.
3. Découpage. Chaque document est découpé en passages (chunks) de quelques paragraphes, en respectant sa structure : titres, articles, sections. Un passage coupé au milieu d’une règle produit une réponse fausse.
4. Métadonnées. Chaque passage conserve son document d’origine, sa date, sa source et, surtout, ses droits d’accès.
5. Embeddings. Un modèle d’embedding transforme chaque passage en vecteur, une suite de nombres qui représente son sens. Deux textes de sens proche ont des vecteurs proches, même sans mot commun.
6. Index. Vecteurs, texte et métadonnées sont stockés dans un index de recherche : une base vectorielle dédiée, ou une extension d’une base existante comme pgvector pour PostgreSQL.

Répondre à une question

7. Recherche hybride. La question est comparée à l’index de deux façons : par le sens, grâce aux vecteurs, et par les mots, grâce à une recherche lexicale indispensable pour les références, les codes produits ou les noms propres. Les deux listes de résultats sont fusionnées.
8. Reclassement (reranking). Un modèle spécialisé relit les meilleurs candidats et ne garde que les plus pertinents.
9. Génération avec citations. Le modèle reçoit la question, les passages retenus et des consignes strictes : répondre uniquement à partir des sources, citer chacune d’elles, répondre « je ne sais pas » si l’information manque.

Les étapes 7 et 8 ne sont pas du raffinement. Dans des tests publiés par Anthropic en 2024, combiner recherche sémantique et recherche lexicale, en enrichissant chaque passage d’un court résumé de son contexte, a réduit de 49 % le taux d’échec de récupération ; ajouter un reclassement a porté la baisse à 67 % (Anthropic, 2024). Dans les systèmes les plus avancés, un agent décide lui-même quelles recherches lancer et dans quel ordre : c’est le principe d’un agent IA appliqué à la recherche documentaire.

RAG, fine-tuning ou long contexte : que choisir ?

Trois approches permettent de faire travailler un modèle sur vos informations. Elles ne répondent pas au même besoin.

• Le RAG consulte vos documents au moment de répondre.
• Le fine-tuning réentraîne un modèle sur des exemples pour modifier son comportement : ton, format, vocabulaire, tâche très spécifique. Il n’est pas fait pour mémoriser une base documentaire : l’information s’y mélange, vieillit et ne se cite pas.
• Le long contexte consiste à placer directement les documents dans la requête. Anthropic indique qu’en dessous d’environ 200 000 tokens (le token, unité de mesure du texte pour les modèles, correspond à un fragment de mot), soit près de 500 pages, on peut simplement fournir toute la base dans le prompt, sans construire de RAG (Anthropic, 2024).

La ligne « droits d’accès » est souvent décisive. L’ANSSI le rappelle : sur les données d’entraînement d’un modèle, la gestion de droits d’accès pour les utilisateurs n’est pas possible, alors qu’elle l’est sur les données consultées en production, selon les outils utilisés (ANSSI, 2024). Notre règle : le RAG par défaut pour la connaissance, le long contexte pour analyser un contrat ou un appel d’offres, le fine-tuning seulement si un besoin de comportement persiste après avoir travaillé les consignes. Les trois se combinent.

La qualité des sources fait la qualité des réponses

Un RAG ne corrige pas une base documentaire : il l’amplifie. Si trois versions d’une procédure coexistent, l’IA peut citer la mauvaise, avec aplomb. Avant d’indexer, vérifiez cinq points.

• Une source de vérité par sujet : archivez les versions périmées au lieu de les indexer.
• Des documents datés et attribués : la date sert au classement, le propriétaire à la mise à jour.
• Des formats exploitables : des PDF natifs plutôt que des scans, des titres structurés, des tableaux simples.
• Des contradictions résolues : deux documents qui se contredisent produisent des réponses instables.
• Un responsable par corpus : sans personne pour le mettre à jour, le RAG vieillit avec ses documents.

Ce travail profite bien au-delà de l’IA : la DGE y voit un investissement durable, utile à la recherche documentaire comme aux futurs projets de données. Pour bâtir une base de connaissances IA qui tienne dans la durée, commencez par le corpus le plus propre et le plus consulté, pas par le plus volumineux.

Comment respecter les droits d’accès aux documents ?

C’est le point le plus souvent négligé, et le plus grave. Un RAG qui indexe tout un SharePoint sans ses permissions peut donner à chaque salarié, par la conversation, l’accès aux salaires, aux contrats ou aux dossiers disciplinaires.

1. Indexer les droits avec les documents. Chaque passage porte la liste des groupes ou des personnes autorisés, synchronisée depuis la source.
2. Filtrer au moment de la recherche. L’utilisateur est identifié par l’authentification de l’entreprise, et les passages auxquels il n’a pas droit n’atteignent jamais le modèle. Masquer la réponse après coup ne suffit pas.
3. Propager les changements. Un droit retiré dans la source doit disparaître de l’index dans un délai fixé à l’avance.
4. Tester avec plusieurs profils. Un stagiaire, un manager, un membre de la direction : vérifiez que chacun ne voit que ce qu’il voit déjà dans ses outils.
5. Journaliser. Questions, documents consultés et réponses doivent être tracés, comme l’ANSSI le recommande pour tout système d’IA générative.

Les documents contiennent aussi des données personnelles : le RGPD s’applique à leur traitement (voir IA et RGPD). Et si vos contenus sont sensibles, l’hébergement de l’index et du modèle devient un choix stratégique (voir IA souveraine).

Comment évaluer un RAG avec un jeu de questions de référence ?

Sans mesure, un RAG se juge sur une démonstration, et une démonstration se prépare. La méthode que nous appliquons tient en cinq temps.

1. Écrire 50 à 150 questions réelles avec les futurs utilisateurs, chacune accompagnée de la réponse attendue et du document source. Incluez des questions fréquentes, des questions difficiles, des questions hors périmètre (la bonne réponse est alors « je ne sais pas ») et des questions qui testent les droits.
2. Mesurer séparément la recherche et la réponse.
   • Rappel : le bon document figure-t-il parmi les passages retrouvés ?
   • Fidélité : la réponse ne dit-elle que ce que disent les sources ?
   • Exactitude : la réponse est-elle correcte et complète ?
   • Citations : les sources citées sont-elles les bonnes ?
   • Abstention : le système reconnaît-il quand l’information manque ?
3. Automatiser, puis vérifier. Un modèle peut noter les réponses à grande échelle, à condition qu’un humain contrôle un échantillon de ses notes.
4. Rejouer le jeu à chaque changement de modèle, de découpage ou de sources.
5. Suivre la production : avis des utilisateurs, questions restées sans réponse, documents jamais consultés.

Fixez les seuils avant de commencer, par exemple : le bon document retrouvé dans au moins 90 % des cas, et aucune réponse tirée d’un document non autorisé. Un seuil décidé après coup finit toujours par s’ajuster aux résultats.

Combien coûte un RAG ?

Un projet de RAG a trois postes de coûts : la construction (cadrage, connecteurs, préparation des documents, droits, interface, évaluation), le fonctionnement (indexation, appels au modèle, hébergement) et la maintenance (nouvelles sources, évolution des modèles, suivi de la qualité). Un calcul simple montre où se trouve vraiment l’argent.

Prenons une PME fictive dont 40 salariés interrogent 5 000 documents d’une dizaine de pages. Hypothèses : environ 600 tokens par page, 8 questions par utilisateur et par jour ouvré (21 jours par mois), 6 000 tokens envoyés au modèle par question (consignes, question et passages retenus) et 500 tokens de réponse. Prix : les tarifs publics de Mistral AI, en dollars hors taxes, au moment où nous écrivons, en septembre 2026 (Mistral AI).

Même avec un modèle dix fois plus cher, les appels au modèle resteraient de l’ordre de 250 dollars par mois. Ajoutez l’hébergement de l’index et de l’application : de quelques dizaines à quelques centaines d’euros par mois selon l’infrastructure, en ordre de grandeur. Le budget se joue donc ailleurs, dans les jours passés à connecter les sources, nettoyer les documents, gérer les droits et évaluer.

Pour un repère public, la DGE estimait en 2024 l’installation d’une solution par un intégrateur à environ 100 000 € en ordre de grandeur, à partir d’entretiens avec des professionnels du secteur, et un produit SaaS entre 10 000 € et 100 000 € par an selon la gamme. Le montant réel dépend surtout du nombre de sources, de l’état des documents et de la complexité des droits : nous détaillons les postes de coûts dans combien coûte un projet IA.

Les étapes d’un projet RAG

1. Cadrage. Un cas d’usage, des utilisateurs identifiés, un corpus, les questions de référence et les critères de réussite.
2. Audit des sources. Où sont les documents, dans quel état, avec quels droits.
3. Prototype. En quelques semaines, sur un sous-ensemble du corpus : ingestion, recherche hybride, réponses citées, première mesure.
4. Itérations. Découpage, reclassement, consignes, jusqu’à atteindre les seuils fixés au cadrage.
5. Intégration. Authentification unique, gestion des droits, journaux, et une interface là où travaillent les équipes : Teams, intranet ou logiciel métier.
6. Pilote avec un groupe d’utilisateurs, puis déploiement progressif.
7. Exploitation. Synchronisation des sources, suivi de la qualité, maintenance.

Côté équipe, un RAG mobilise surtout un AI engineer et un data engineer, avec un référent métier pour les questions de référence : leurs rôles sont détaillés dans les métiers de l’IA.

La DGE compte environ trois mois pour mettre en place une solution personnalisée avec un intégrateur. C’est cohérent avec notre méthode de développement sur mesure : un prototype en quelques semaines, des itérations courtes avec démonstrations, puis une mise en production supervisée et maintenue. Le délai dépend moins de la technique que du nombre de sources et de l’état des documents.

Les erreurs fréquentes d’un projet RAG

• Tout indexer d’un coup. « On branche le SharePoint » : doublons, versions périmées et droits ignorés garantissent des réponses fausses.
• Oublier les droits d’accès. C’est le risque numéro un, juridique autant que social.
• Découper à l’aveugle. Des passages de taille fixe coupent les tableaux et les procédures en deux.
• Se fier à la seule recherche vectorielle. Numéros de contrat, références et codes produits se retrouvent mieux par mots-clés.
• Juger sur une démonstration. Seul un jeu de questions de référence dit si le système progresse.
• Laisser le modèle répondre sans source. Exigez des citations et autorisez le « je ne sais pas ».
• Demander au RAG ce qu’il ne sait pas faire. « Combien de contrats expirent en 2027 ? » exige une requête sur des données structurées, pas une recherche de passages. Pour ces questions, l’IA doit interroger directement vos bases, par exemple via un connecteur MCP.