RAG (génération augmentée par récupération) : les enjeux pour la PME
Un modèle de langage ne connaît ni vos procédures, ni vos fiches produits, ni vos contrats. Le RAG comble ce manque sans réentraîner le modèle. Selon la documentation de Mistral AI, les documents sont découpés en passages, convertis en embeddings et stockés dans une base de données vectorielle ; à chaque question, le système récupère les passages les plus pertinents et les insère dans la consigne envoyée au modèle, qui rédige sa réponse à partir de ce contexte.
C’est l’approche habituelle pour un assistant interne qui répond à partir du règlement intérieur, d’une base de connaissances ou d’un catalogue technique. La documentation de Claude souligne son intérêt pour les informations récentes, les connaissances spécialisées et la citation des sources, tout en précisant que son efficacité dépend de la qualité et de la pertinence de la base. Un document périmé produit une réponse périmée, avec l’apparence rassurante d’une réponse sourcée.
Deux points de vigilance s’ajoutent. Les droits d’accès d’abord : l’ANSSI invite à gérer les droits sur les données ajoutées au système en production, faute de quoi un salarié peut obtenir par l’assistant un document qu’il n’aurait pas pu ouvrir. La sécurité ensuite : selon l’OWASP, le RAG ne supprime pas complètement le risque d’injection de prompt, un document piégé pouvant contenir des instructions cachées.
Notre méthode tient en trois étapes : choisir un périmètre documentaire restreint et à jour, nommer un responsable par source, puis tester l’outil sur une vingtaine de questions réelles dont la réponse est connue avant de l’ouvrir aux équipes. C’est un bon premier projet d’intelligence artificielle pour une PME, à condition de partir de documents tenus à jour.
Exemple
Une PME industrielle fictive de 120 personnes met en place un assistant RAG sur 850 fiches techniques. Sur 40 questions de test, 31 réponses sont justes et sourcées, 9 sont fausses. L’analyse montre que 7 des 9 erreurs viennent de fiches périmées. Après la mise à jour de 120 fiches et le retrait de 60 doublons, le même test donne 37 bonnes réponses sur 40.
Questions fréquentes
Quand choisir le RAG plutôt que le fine-tuning ?
Quand le besoin porte sur des connaissances : documents internes, informations qui changent, réponses à sourcer. La documentation d’OpenAI réserve plutôt l’ajustement du modèle aux problèmes de régularité du format ou du comportement.
Le RAG empêche-t-il les hallucinations ?
Il les réduit en ancrant les réponses dans vos documents, sans les supprimer. Les réponses importantes doivent rester vérifiables, d’où l’intérêt d’afficher la source utilisée.
Nos documents sont-ils envoyés au fournisseur du modèle ?
Les extraits retenus sont transmis au modèle avec la question. Vérifiez donc où le modèle est hébergé, ce que prévoit le contrat et quels documents vous indexez.
Faut-il des compétences techniques pour mettre en place un RAG ?
Des fonctions prêtes à l’emploi existent : Mistral AI, par exemple, propose une fonction gérée qui intègre, vectorise et recherche les documents. Le travail principal reste le tri et la mise à jour des sources.
Sources
- Glossary, Anthropic (documentation Claude) — consulté le 16 octobre 2026
- RAG Quickstart, Mistral AI (documentation) — consulté le 16 octobre 2026
- Optimizing LLM Accuracy, OpenAI (documentation développeurs) — consulté le 16 octobre 2026
- Recommandations de sécurité pour un système d’IA générative (ANSSI-PA-102, v1.0, 29/04/2024), ANSSI — consulté le 16 octobre 2026
- LLM01:2025 Prompt Injection, OWASP Gen AI Security Project — consulté le 16 octobre 2026
Auteur
Clément Marchal a fondé le Cabinet Flourens. Depuis 2017, dont cinq ans à faire tourner des équipes, notamment dans un environnement régulé par l'AMF, il voit la même chose : l'IA entre dans l'entreprise par les salariés, pas par la direction. Personne ne sait qui l'utilise, sur quelles données, ni ce qu'elle rapporte. Avec Ardoise, le Cabinet Flourens met cet usage en ordre en six semaines : la carte des usages, des règles acceptées, deux automatisations ou agents IA sur vos outils et le dossier qui prouve ce que l'entreprise a fait.
L'histoire du cabinetMode d'Emploi, la lettre
Une méthode par semaine pour reprendre la main sur votre organisation. Désinscription en un clic.