Qu'est-ce que RAG
📍 In One Sentence
RAG récupère des documents pertinents de votre base de connaissances et les fournit au LLM avec la question, pour que le modèle réponde à partir de vos données au lieu de deviner.
💬 In Plain Terms
Sans RAG = examen à livre fermé (le modèle répond de mémoire, peut inventer). Avec RAG = examen à livre ouvert (le modèle consulte d'abord vos notes). Peut toujours mal lire les notes, mais au moins n'invente pas des faits.
RAG combine un retriever qui trouve les informations pertinentes avec un générateur qui rédige la réponse finale. Le retriever interroge une base de connaissances (PDFs indexés, pages web, documents internes) selon la requête. Le générateur lit les passages et produit une réponse qui cite ou reflète ce contenu.
Contrairement à un appel direct au modèle où celui-ci répond de ses paramètres seuls, RAG fait "lire" au modèle du contexte frais à chaque question. Depuis avril 2026, c'est l'architecture standard pour les systèmes IA d'entreprise ayant besoin de répondre depuis des documents protégés ou des données en temps réel.
Pourquoi RAG est important
**RAG réduit les hallucinations et maintient les réponses à jour.** Un modèle seul invente volontiers sur des sujets spécialisés ou récents. Avec RAG, les réponses reposent sur des documents que vous contrôlez.
Essentiel aussi pour la confidentialité. Vous gardez vos données sensibles dans votre infrastructure et ne passez que des extraits pertinents au modèle à chaque interrogation. Le modèle opère sur votre contenu sans l'absorber définitivement.
Lorsque les documents que vous voulez interroger ne peuvent pas quitter votre infrastructure, le pipeline RAG complet peut s'exécuter sur votre propre matériel. Pour l'architecture conforme RGPD, la journalisation d'audit et les schémas de déploiement, voir RAG local pour les données métier.
Comment fonctionne un système RAG
Quatre étapes principales : ingestion, indexation, récupération, génération. Chacune peut être affinée indépendamment.
Pour un guide pas-à-pas qui exécute ce pipeline sur vos propres PDF avec un modèle local, voir RAG local sur vos PDF étape par étape.
- 1Ingestion : charger documents (PDFs, articles, tickets, code), les fractionner. Métadonnées (titres, dates, auteurs, tags) optionnelles.
- 2Indexation : convertir chaque fragment en vecteur via un modèle d'embedding, stocker en base vectorielle. Permet chercher du contenu sémantiquement similaire.
- 3Récupération : convertir la question en vecteur, extraire les chunks les plus proches. Filtres (date, type doc, permissions) applicables ici.
- 4Génération : construire un prompt incluant la question et chunks, envoyer au LLM. Le modèle génère une réponse cohérente avec le contexte fourni.
🔍 La récupération est le goulot
La qualité de RAG dépend 80% de la récupération. Un bon retriever avec un modèle faible donne meilleures résultats qu'un mauvais retriever avec GPT-4o. Investissez dans le tuning de l'indexation et des chunking.
RAG vs Fine-Tuning : quand utiliser quoi
**RAG et Fine-Tuning résolvent des problèmes différents et marchent mieux combinés.** Commencez par RAG. Ajoutez Fine-Tuning seulement si vous besoin de changements comportementaux stables que le prompting ne peut pas fournir.
| Facteur | RAG | Fine-Tuning |
|---|---|---|
| Source de connaissance | Récupérée à l'interrogation | Intégrée au training |
| Fraîcheur des données | Temps réel | Statique |
| Données sensibles | Restent chez vous | Absorbées dans les poids |
| Traçabilité | Vers documents sources | Aucune provenance |
| Coût mise à jour | Bas | Élevé |
| Changement comportement | Non | Oui |
| Meilleur pour | Données changeantes | Comportement stable |
| Cas d'usage | Q&A, support bots | Documents légaux |
🔍 RAG d'abord, fine-tuning ensuite
RAG ajoute des connaissances (réversible : mettez à jour le vecteur-store). Fine-tuning change le comportement (permanent : réentraînement). Commencez toujours par RAG pour le contenu, puis fine-tuning seulement pour le style/ton.
Comparaison des bases de données vectorielles
Choisir la bonne base vectorielle dépend de votre infrastructure, vos contraintes de latence, et vos exigences de conformité. Voici les six options principales.
| Base de données | Type | Meilleur pour | Résidence EU | Auto-hébergé | Coût approximatif |
|---|---|---|---|---|---|
| Pinecone | Vecteur géré (cloud) | Prototypage rapide, MVP, sans ops | Oui, région eu-west-1 | Non | 100–1.000€/mois selon usage |
| Weaviate | Vecteur open-source | Déploiements d'entreprise, recherche hybride | Oui, auto-hébergé | Oui (Kubernetes) | Gratuit + coûts infra (500–5.000€/an) |
| Chroma | Vecteur léger | Prototypes, applications locales, démos | Oui, local | Oui (Python) | Gratuit |
| Milvus | Vecteur haute performance | Millions de vecteurs, latence <100ms | Oui, auto-hébergé | Oui (Kubernetes, Docker) | Gratuit (open-source) ou 500–2.000€/mois (support) |
| Qdrant | Vecteur moderne Rust | Filtrage avancé + vecteurs, performance élevée | Oui, auto-hébergé | Oui | Gratuit ou 500–2.000€/mois (cloud) |
| pgvector (PostgreSQL) | Extension PostgreSQL | Vecteurs + requêtes SQL, simplifier infra | Oui, utilise votre PostgreSQL | Oui | Gratuit (extension) + PostgreSQL existant |
Exemple : sans vs avec RAG
L'avantage devient clair en comparant une réponse de mémoire avec une réponse basée sur des documents récupérés.
Mauvais prompt — sans RAG
"Quelle est notre politique de congés ?"
Le modèle devine selon des patterns génériques, possiblement faux pour votre org.
Bon prompt — avec RAG
"Vous répondez aux questions sur les politiques internes. Voici les extraits pertinents : ...fragments de politiques... Répondez en vous basant uniquement sur ces extraits : "Quelle est notre politique de congés ?" Si absent, dites que c'est non spécifié."
Ici, le modèle est ancré dans vos documents réels et il est clair quoi faire si l'info manque.
RAG dans les workflows multi-modèles
RAG devient plus puissant combiné avec plusieurs modèles et prompting structuré.
- Un modèle pour embedding/récupération, un autre pour génération de réponse.
- Chain-of-Thought ou TRACE sur contexte récupéré pour reasoning complexe.
- Même prompt RAG sur plusieurs modèles pour comparer l'utilisation du contexte.
🔍 Mêmes documents, réponses différentes
Tester le même prompt RAG sur GPT-4o, Claude Opus 4.7, et Gemini 2.0 Pro avec le même vecteur-store. Vous verrez: différentes longueurs, styles, utilisation du contexte. PromptQuorum permet router une même requête vers plusieurs modèles et comparer.
Cette modularité est un atout majeur : améliorez retriever, indexeur, générateur ou prompts indépendamment sans refondre le système.
RAG dans les environnements régulés
RAG est préféré quand données sensibles sont en jeu — elles ne touchent jamais les paramètres du modèle.
UE / RGPD : Architecture standard pour orgs traitant données personnelles. Documents restent chez vous, seuls extraits pertinents au LLM à requête. Aucune transmission à providers externes. Satisfait RGPD Art. 46 directement. Loi IA UE Art. 11 : requiert documenter sources — RAG avec archives versionnées remplit cela. Bases vectorielles locales recommandées.
Japon (METI) : Richtlinien demandent documenter sources pour décisions IA. RAG avec archives curées produit cette trace — chaque réponse traçable aux docs récupérés. Déploiements combinent RAG avec inférence locale (LLaMA via Ollama) pour tout on-premise.
Chine (CAC) : CAC 2023 : sources documentées avant prod. RAG avec sources approuvées = conforme. Vérifiez providers respectent localisations données.
Erreurs courantes
❌ Utiliser RAG pour ce que le modèle sait déjà
Why it hurts: Contexte redondant gaspille tokens et ralentit réponses sans bénéfice
Fix: Réservez RAG aux données domaine-spécifiques, propriétaires, ou très récentes que le modèle ne peut pas connaître.
❌ Fragments trop petits (< 100 mots)
Why it hurts: Perte de contexte, fragments ambigus, le modèle perd la cohérence du document original
Fix: Utilisez 200–500 mots par fragment avec 10–20% chevauchement; testez sur requêtes représentatives.
❌ Pas de seuil de pertinence
Why it hurts: Tous les fragments passent au LLM, y compris du bruit sémantique, forçant le modèle à démêler signal/bruit
Fix: Établissez un seuil minimum (>0.7 similarité cosinus); fragments sous le seuil déclenchent "non trouvé".
❌ Ne pas tester retrieval vs génération séparément
Why it hurts: Impossible de diagnostiquer si erreurs viennent du retriever ou du générateur
Fix: Évaluez retriever sur 20+ requêtes représentatives d'abord, générez ensuite, puis testez ensemble.
❌ Ignorer les métadonnées (dates, auteurs, types)
Why it hurts: Grandes bases sans filtres retournent du contenu périmé, archivé, ou en conflit
Fix: Capturez métadonnées à l'ingestion; utilisez filtres à la récupération (date, type doc, permissions).
Implémenter RAG
- 1Identifier sources (docs, PDFs, APIs) dont l'IA répond. Support : FAQs, docs produit, anciens tickets. Recherche : vos repos d'articles, sources externes.
- 2Convertir en embeddings avec base vectorielle (Pinecone, Weaviate, Chroma, Milvus). Fractionner, vectoriser, stocker. Permet cherche rapide sémantique.
- 3À requête : (1) vecteur question, (2) récupérer chunks proches, (3) passer au LLM. Ex. : "Reset ?" → FAQ → LLM répond ancrée dans docs.
- 4Grandes collections (100+ pages) : fragmentation 200–500 mots, 10–20% chevauchement. Équilibre compréhension/précision. Testez vos requêtes.
- 5Vérifiez pertinence avant génération. Retrieval mauvais = LLM mauvais. Seuil 0.7 ; dessous = "non trouvé".
🔍 L'avantage de la recherche hybride
Combinez recherche vectorielle (sémantique) + BM25 (mots-clés). Weaviate et Qdrant supportent nativement. Requête "contrat client 2024" : sémantique attrape paragraphes, BM25 attrape la date exacte. Ensemble = meilleur rappel.
Lectures complémentaires
- Qu'est-ce que l'ingénierie des prompts ? — Fondamentaux pour prompts avec contexte RAG.
- Chain-of-Thought Prompting — Combinez CoT avec RAG pour multi-étapes sur docs récupérés.
- Injection de Prompts & Sécurité — Injection indirecte via docs : risque RAG primaire.
- Open Source vs LLMs propriétaires — Cloud vs local pour étape génération.
- Limites de l'IA — Ce que LLMs ne peuvent pas faire — Pourquoi RAG nécessaire.
- Construire des vérifications qualité — Validation RAG : détection hallucinations, vérification sources.
Foire aux questions
Qu'est-ce que RAG ?
Récupère documents pertinents avant de générer, au lieu de compter sur training. Réponse ancrée dans vos documents.
Comment RAG réduit hallucinations ?
Ancre dans texte récupéré. Prompt : répondre seulement à partir extraits, marquer info absente. Élimine incitation à inventer.
RAG vs Fine-Tuning ?
RAG récupère connaissances à requête. Fine-Tuning modifie paramètres définitivement. RAG = données changeantes ; Fine-Tuning = comportement stable.
Meilleures bases 2026 ?
Pinecone (géré), Weaviate (open-source), Chroma (léger), Milvus (entreprise). EU : auto-hébergées recommandées.
Taille fragment optimale ?
200–500 mots, chevauchement 10–20%. <100 : contexte perdu. >1.000 : précision perdue. Testez vos requêtes.
RAG + Ollama (local) ?
Oui. Agnostique modèle. LLaMA 3.1, Mistral local : données restent chez vous.
RAG + GPT-4o, Claude, Gemini ?
Oui. Tous acceptent contexte. Claude Opus 4.7 bon signaler contexte insuffisant. GPT-4o concis.
Seuil de pertinence ?
Score minimum similarité. 0.7 cosinus = 70% match sémantique. Moins = "non trouvé".
RAG meilleur qu'grosse fenêtre ?
Grandes collections : oui. Cherche millions docs en ms, moins cher par requête.
Prévenir injections prompts ?
Jamais faire confiance contenu récupéré comme instructions. Délimiteur clair. Validez format et source.
Pipeline prod ?
Ingestion, fragmentation, embedding, recherche sémantique, filtre pertinence, génération, citations.
RAG sans base vectorielle ?
Petit volume : BM25 keyword search. <10.000 chunks. Similarité sémantique large = base nécessaire.
Sources
- Lewis, P., et al. (2020). "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." https://arxiv.org/abs/2005.11401
- Gao, Y., et al. (2023). "Retrieval-Augmented Generation for Large Language Models: A Survey." https://arxiv.org/abs/2312.10997
- Guu, K., et al. (2020). "REALM: Retrieval-Augmented Language Model Pre-Training." https://arxiv.org/abs/2002.08909
- OpenAI. (2024). "Retrieval and Augmentation in Language Models." https://platform.openai.com/docs/guides/prompt-engineering
Questions fréquemment posées
Qu'est-ce que RAG ?
RAG (Retrieval-Augmented Generation) récupère des documents pertinents avant de générer une réponse, plutôt que de s'appuyer uniquement sur les connaissances d'entraînement du modèle. La réponse est ancrée dans vos documents, pas inventée.
Comment RAG réduit-il les hallucinations ?
RAG ancre la réponse dans le texte récupéré. Le prompt indique au modèle de répondre uniquement à partir des extraits fournis et de signaler les informations manquantes. Cela supprime l'incitation du modèle à inventer des détails plausibles.
Quelle est la différence entre RAG et Fine-Tuning ?
RAG récupère les connaissances au moment de la requête et les ajoute au prompt. Le Fine-Tuning modifie les paramètres du modèle définitivement. RAG convient aux données changeantes ; le Fine-Tuning aux comportements stables.
RAG fonctionne-t-il avec n'importe quel modèle de langage ?
Oui. RAG est modèle-agnostique. Tout LLM acceptant un prompt avec contexte peut utiliser des documents récupérés. Cela inclut GPT-4o, Claude Opus, Gemini, les modèles open-source comme Llama et les modèles locaux via Ollama.
Quelle est la taille de chunk optimale pour RAG ?
Pour la plupart des cas : 200–500 mots par chunk avec 10–20% de chevauchement entre chunks adjacents. Les chunks plus petits (50–100 mots) améliorent la précision ; les chunks plus grands (500+ mots) fournissent plus de contexte mais risquent d'inclure des passages non pertinents.
Qu'est-ce qu'un seuil de pertinence dans RAG ?
Un seuil de score de similarité. Si la similarité d'un document récupéré est inférieure au seuil (ex. 0,7 cosinus), il n'est pas transmis au LLM. Cela évite que du contexte de faible qualité confonde le modèle.
RAG est-il meilleur qu'une large fenêtre contextuelle ?
Pour les grandes collections de documents, oui. RAG recherche efficacement des millions de documents en millisecondes avec similarité sémantique. Les grandes fenêtres contextuelles coûtent plus cher et nécessitent de savoir à l'avance quels documents inclure.
Puis-je combiner RAG avec le Fine-Tuning ?
Oui. Fine-tuner un modèle pour améliorer le style, le ton ou le comportement du domaine. Puis utiliser RAG pour l'ancrer dans des faits actuels. Cela crée le meilleur des deux : comportement cohérent + ancrage factuel.
Comment prévenir les attaques par injection de prompts dans RAG ?
Validez le contenu récupéré avant de l'inclure dans le prompt. Utilisez des délimiteurs clairs entre les instructions système et le texte récupéré. Ne traitez jamais le contenu récupéré comme des instructions exécutables. Surveillez les patterns suspects.
RAG nécessite-t-il une base de données vectorielle ?
Non pour les petites collections. La recherche BM25 par mots-clés fonctionne pour moins de 10 000 documents sans vecteurs. Pour la similarité sémantique sur les plus grandes collections, une base de données vectorielle (Weaviate, Pinecone, Chroma, Milvus) est essentielle.