RAG et injection de contexte Ancrer un modèle dans vos propres données

Réponse rapide

La génération augmentée par récupération récupère l'information pertinente depuis une source externe au moment de l'inférence et l'injecte dans le prompt, de sorte que le modèle raisonne sur des éléments que vous fournissez plutôt que sur ce qu'il a mémorisé à l'entraînement.

  • La qualité de la récupération est un plafond dur pour la qualité de génération — le modèle ne peut pas raisonner pour sortir d'un mauvais contexte.
  • Le découpage est la décision la plus sous-estimée du pipeline : il détermine tout ce que la récupération pourra jamais trouver.
  • Le correctif contre-intuitif à la sur-récupération : récupérez plus, injectez moins.

Chaque prompt que vous écrivez est un pari sur ce que le modèle sait déjà. Avec un grand modèle de pointe, ce pari paie sur les questions générales — résumé, classification, raisonnement, code. Il échoue dès qu'il faut que le modèle connaisse quelque chose de précis : le contenu de la politique interne de votre entreprise, l'état d'un enregistrement en base, la transcription d'un appel de ce matin. Aucun prompt engineering ne récupérera une information sur laquelle le modèle n'a jamais été entraîné.

La génération augmentée par récupération est la solution standard. Au lieu de vous en remettre à la mémoire paramétrique du modèle, vous récupérez l'information pertinente depuis une source externe au moment de l'inférence et vous l'injectez dans le prompt. Le travail du modèle se déplace : on ne lui demande plus de savoir, mais de raisonner sur des éléments que vous fournissez.

1. Le problème de la connaissance

La connaissance paramétrique d'un modèle de langage a deux limites dures : une date de coupure d'entraînement — le modèle ignore les événements postérieurs à une certaine date — et une limite de couverture — même à l'intérieur de la fenêtre d'entraînement, des masses d'informations spécialisées, propriétaires ou obscures n'ont jamais été ingérées.

La réponse habituelle est l'affinage : ajuster les poids du modèle sur vos données métier. C'est souvent le mauvais choix. C'est coûteux, lent, cela risque l'oubli catastrophique, et cela confond deux problèmes distincts : apprendre au modèle comment se comporter, et lui donner ce qu'il doit savoir.

L'affinage ajuste le comportement et le style du modèle. Le RAG ajuste sa connaissance au moment de l'inférence. Pour de l'information dynamique, volumineuse ou propriétaire — documents juridiques, catalogues produits, tickets de support, données en direct — le RAG est presque toujours le bon outil.

Lewis et al. (2020) ont introduit le RAG comme architecture formelle, associant un module de récupération non paramétrique à un modèle séquence-à-séquence paramétrique, et démontrant des gains constants face à la génération à livre fermé sur des bancs d'essai de TAL exigeants en connaissances. La réserve, c'est que le « bien mis en œuvre » pèse plus lourd qu'il n'y paraît — la plupart des échecs de RAG ne sont pas des échecs de l'idée elle-même ; ce sont des échecs de découpage, de récupération ou d'injection.

2. Le pipeline RAG

Un système RAG compte trois étapes distinctes, et comprendre chacune séparément est le préalable à tout diagnostic de panne — un problème à la première étape se propage silencieusement à travers la deuxième et la troisième, produisant une réponse assurée, fluide et entièrement fausse.

Indexation

Les documents sont découpés, vectorisés et rangés dans un index interrogeable — hors ligne, avant toute requête.

Récupération

Une requête est vectorisée puis confrontée à l'index pour trouver les fragments les plus pertinents.

Génération

Les fragments récupérés sont injectés dans le prompt et le modèle produit une réponse qui s'y ancre.

La propriété clé de ce pipeline est que les étapes une et deux sont entièrement séparées du modèle de langage — il n'intervient qu'à la troisième. Vous pouvez changer de système de récupération, mettre à jour l'index documentaire ou changer de modèle d'embeddings sans toucher à votre prompt ni à votre modèle de génération. Cela signifie aussi que la qualité de la récupération est un plafond dur pour la qualité de génération. Un modèle qui reçoit un contexte pauvre ou contradictoire ne peut pas compenser par un raisonnement habile — il hallucinera pour combler le vide, ou reflétera fidèlement le mauvais contexte.

3. Stratégies de découpage

Le découpage est la décision la plus sous-estimée d'un pipeline RAG. Il détermine la granularité de ce que la récupération peut trouver et arbitre entre précision et contexte. Découpez trop fin et vous perdez le sens ; trop gros et vous polluez la fenêtre de contexte avec du contenu hors sujet. Il n'existe pas de taille universellement correcte — elle dépend du type de document, du modèle d'embeddings et du profil des requêtes.

Le découpage à taille fixe

Découpez le document en fragments de N tokens, avec un recouvrement de M tokens entre fragments voisins, afin qu'une phrase coupée à une frontière conserve son contexte dans au moins un fragment. La stratégie la plus simple, et le bon point de départ. 512 tokens conviennent à la plupart des modèles d'embeddings de 2022-2024 ; les modèles plus récents acceptant 8 000 tokens ou plus peuvent profiter de fragments plus grands.

512

tokens — convient à la plupart des modèles d'embeddings

64

tokens de recouvrement — ~12 %, préserve les frontières

4–6

fragments récupérés (top_k) pour commencer

Commencez ici. Ajustez sur la base d'une évaluation de la récupération, pas de l'intuition.

Le découpage sémantique

Découpez aux frontières sémantiques naturelles plutôt qu'à un compte fixe — sauts de paragraphe, titres de section, ou changements de sujet détectés en comparant la similarité des embeddings de phrases consécutives. Produit des fragments plus cohérents, ce qui améliore la précision de la récupération, au prix de tailles variables qui compliquent la budgétisation du contexte. À employer quand la structure documentaire est irrégulière — contenu web moissonné, rapports de format mixte.

Le découpage hiérarchique

Indexez les documents à plusieurs niveaux de granularité à la fois : des sections entières pour une récupération large, des paragraphes pour la précision. À la requête, récupérez au niveau du paragraphe mais renvoyez la section environnante comme contexte — un motif « du petit vers le grand » particulièrement efficace sur les longs documents techniques, où la bonne réponse est une phrase qui n'a de sens que dans sa section.

Quatre variantes hiérarchiques

  • Récupérateur de document parent. Indexez les fragments enfants (paragraphes) ; quand l'un correspond, injectez sa section parente.
  • Indexation par résumés. Indexez des résumés de chaque section générés par LLM ; l'appariement se fait sur les résumés, l'injection sur les sections complètes.
  • Fenêtre de phrases. Indexez les phrases individuellement ; quand l'une correspond, injectez une fenêtre de ± N phrases alentour.
  • Découpage en propositions. Décomposez les documents en affirmations atomiques et autonomes avant vectorisation — précision maximale, coût d'indexation élevé.

Le découpage tardif

Une approche plus récente, de Günther et al. (2024) : vectorisez d'abord le document entier, puis découpez les embeddings de tokens obtenus plutôt que le texte brut. Comme les embeddings portent le contexte du document complet, le vecteur de chaque fragment capte le sens du texte environnant — ce qui résout le problème du « contexte perdu » sans la complexité de la récupération hiérarchique. À évaluer si votre modèle d'embeddings gère les contextes longs.

4. Embeddings et recherche par similarité

Un modèle d'embeddings projette un texte dans un vecteur dense, de sorte que des textes sémantiquement proches se retrouvent voisins au sens de la distance cosinus — c'est le fondement de la recherche sémantique : apparier du sens plutôt que des mots-clés.

Les modèles d'embeddings généralistes se comportent bien sur la langue courante et se dégradent sur le vocabulaire spécialisé — termes juridiques, nomenclature médicale, noms de produits propriétaires — parce que ces termes apparaissaient rarement dans les données d'entraînement. Le modèle d'embeddings utilisé à la requête doit être identique à celui utilisé à l'indexation. Mélanger les modèles produit des scores de similarité dépourvus de sens ; les espaces vectoriels ne sont pas comparables, et la récupération échoue silencieusement.

Pour la recherche par similarité à grande échelle, la recherche exacte des plus proches voisins sur des millions de vecteurs est prohibitive en calcul. Les algorithmes de plus proches voisins approchés — FAISS étant le plus répandu — partitionnent l'espace vectoriel à l'aide de structures comme HNSW ou IVF, échangeant une légère perte de rappel contre une recherche sous-linéaire. Pour des systèmes de production sous la barre des 100 000 documents, la recherche exacte est souvent assez rapide et supprime une source de panne.

La recherche hybride

La recherche sémantique excelle à apparier l'intention mais échoue sur les chaînes exactes — codes produits, noms propres, termes rares absents de la distribution d'entraînement du modèle d'embeddings. La recherche lexicale (BM25) excelle sur les correspondances exactes et les termes rares mais rate les paraphrases et les synonymes. La recherche hybride exécute les deux en parallèle et fusionne les ensembles de résultats par Reciprocal Rank Fusion. Les recommandations d'Anthropic sur la récupération contextuelle indiquent que le seul enrichissement contextuel des fragments réduisait les échecs de récupération de 49 %, et de 67 % en le combinant à la recherche hybride et au reclassement.

Ajoutez un reclasseur à encodeur croisé en étape finale — il note les paires requête-fragment conjointement plutôt que séparément, ce qui est nettement plus précis, au prix de la latence. Ne l'appliquez qu'aux vingt meilleurs candidats sémantiques, pas à l'index entier.

Méthode de recherche → force → faiblesse

  • Dense (sémantique). Appariement d'intention, rappel des paraphrases. Faible sur les termes rares et les chaînes exactes.
  • Creuse (BM25). Chaînes exactes, tokens rares. Aveugle aux synonymes.
  • Hybride (fusion RRF). Les deux qualités ci-dessus, au prix de plus d'infrastructure — le choix par défaut en production.
  • Reclasseur à encodeur croisé. Précision maximale, appliqué après la récupération hybride aux seuls meilleurs candidats.

5. L'injection de contexte

La récupération vous donne des fragments pertinents. L'injection, c'est la façon de les assembler en un prompt sur lequel le modèle peut raisonner correctement — un problème de prompt engineering, pas de récupération, et c'est là que la plupart des mises en œuvre de RAG laissent de la qualité sur la table.

L'approche naïve — concaténer les fragments récupérés en texte brut et les accoler à la requête — fonctionne, mais n'apprend rien au modèle sur ce qu'est ce texte, d'où il vient, ni sur la confiance de la récupération. Un modèle placé devant un mur de texte indifférencié hallucinera des transitions entre fragments et attribuera mal les affirmations.

Le gabarit d'injection

Structurez votre injection de contexte. Chaque fragment récupéré devrait arriver avec au minimum un identifiant de source, son contenu et un séparateur. L'étiquette de pertinence dérive du score de similarité du récupérateur — élevée, moyenne ou faible selon des seuils que vous définissez ; elle n'est pas générée automatiquement, c'est votre couche d'orchestration qui associe le score flottant à une étiquette.

Gabarit d'injection structuré Exemple
SYSTEM: Answer using only the context below. Cite the
source for each claim. If the context does not contain
the answer, say so — do not guess.

CONTEXT:
--- Source: policy-handbook.pdf | Section: 4.2 | Relevance: high ---
[chunk content]

--- Source: faq-2026-q1.md | Section: n/a | Relevance: medium ---
[chunk content]

--- Source: support-ticket-8821.txt | Section: n/a | Relevance: low ---
[chunk content]

USER QUESTION: [user query]
À éviter — concaténation non structurée Erreur fréquente
Here is some information: [chunk 1 text] [chunk 2 text]
[chunk 3 text]

Answer this question: [user query]

Problems: no source attribution, no boundary markers
between chunks, no instruction about how to handle missing
or conflicting information, no grounding constraint — the
model will freely mix retrieved content with parametric
knowledge, making hallucinations impossible to detect.

L'enrichissement contextuel des fragments

Un fragment récupéré isolément perd souvent son sens — « la politique ne s'applique qu'aux utilisateurs inscrits » ne veut rien dire sans savoir de quelle politique et de quel document il s'agit. La récupération contextuelle — préfixer chaque fragment, à l'indexation, d'un bref résumé de son contexte documentaire généré par un LLM — améliore nettement la justesse, car les embeddings portent désormais une information situationnelle et non la seule phrase brute. Cela ajoute un coût d'indexation ponctuel pour un résultat spectaculairement meilleur à l'exécution — l'une des interventions au meilleur rendement dans un pipeline RAG standard.

Avant

« La politique ne s'applique qu'aux utilisateurs inscrits et exclut les comptes d'essai. » — vectorisé isolément ; le modèle de récupération n'a aucun contexte documentaire.

Après

« Cet extrait provient de la section Politique de remboursement des Conditions générales client 2026, qui régissent les transactions de commerce en ligne sur la plateforme. La politique ne s'applique qu'aux utilisateurs inscrits et exclut les comptes d'essai. » — vectorisé avec son contexte en préfixe ; le modèle de récupération peut apparier l'intention au niveau du document.

6. Le budget de la fenêtre de contexte

Chaque token dépensé en contexte récupéré est un token indisponible pour les instructions système, l'historique de conversation et le raisonnement du modèle. Gérer ce budget explicitement — plutôt que d'espérer que tout rentre — fait la différence entre un système qui se dégrade proprement sous charge et un système qui tronque silencieusement le fragment le plus pertinent.

Les modèles de pointe acceptent désormais des fenêtres de 128 000 à 1 million de tokens, ce qui rend le débordement moins probable, mais deux problèmes plus subtils demeurent. Liu et al. (2023) ont documenté l'effet « perdu au milieu » : les modèles portent une attention moins fiable à l'information placée au milieu d'un long contexte qu'à celle du début ou de la fin. Et injecter plus de contexte que nécessaire augmente la latence et le coût sans améliorer la qualité — parfois en la dégradant, puisque le modèle doit distinguer le signal du bruit sur un ensemble plus vaste.

Règle de travail : réservez le début de la fenêtre de contexte au system prompt et aux contraintes dures, placez le contexte récupéré juste après, et la requête utilisateur en dernier. Positionnez vos fragments les plus importants en premier et en dernier — l'attention est la plus forte aux extrémités des longs contextes.

Une répartition de 32 000 tokens, RAG de complexité moyenne

  • System prompt. 500 à 1 000 tokens — rôle, contraintes, format de sortie, instruction d'ancrage.
  • Contexte récupéré. 8 000 à 16 000 tokens — fragments top-k, métadonnées de source, séparateurs.
  • Historique de conversation. 2 000 à 4 000 tokens — les N derniers tours, résumés si nécessaire.
  • Requête utilisateur. 200 à 500 tokens — le message en cours.
  • Marge de génération. 1 000 à 4 000 tokens — réservés à la sortie du modèle.

Si le contenu récupéré dépasse systématiquement le budget, le correctif n'est pas un top-k plus grand — c'est une meilleure précision de récupération, afin que moins de fragments suffisent à couvrir l'information pertinente. Un système de récupération qui doit renvoyer dix fragments pour être sûr d'inclure le bon a besoin d'être réparé.

7. Modes de défaillance

Les systèmes RAG échouent autrement que la génération simple. Un échec simple est visible — le modèle dit qu'il ne sait pas. Un échec de RAG est souvent invisible : une réponse assurée et fluide, ancrée dans le mauvais contenu. Les utilisateurs y croient. Le système journalise une complétion réussie. L'erreur se propage en silence.

Quatre modes de défaillance

  • Récupération manquée. Le bon fragment existe mais n'est pas renvoyé — décalage de vocabulaire, frontière qui tronque la phrase pertinente, ou faible précision des embeddings sur le domaine. Détectez-la par le rappel@k sur un jeu annoté ; corrigez par la recherche hybride, le reclassement ou l'enrichissement contextuel.
  • Empoisonnement du contexte. Les fragments récupérés se contredisent ou sont périmés, et le modèle les tient pour faisant autorité parce que le prompt d'injection le lui dit. Le mode le plus dangereux — l'instruction d'ancrage qui empêche l'hallucination empêche aussi de corriger un mauvais contexte. Atténuez-le par des dates de document en métadonnées, des règles explicites de résolution des conflits et une déduplication après récupération.
  • Décalage récupération-réponse. Les fragments récupérés sont thématiquement liés mais ne contiennent pas la réponse : le modèle se rabat alors sur sa connaissance paramétrique ou tergiverse avec assurance. Détectez-le par un score de fidélité aux fragments récupérés.
  • Sur-récupération et dilution du contexte. Trop de fragments injectés dégradent la qualité même quand le bon est présent. Le correctif est contre-intuitif : récupérez plus, injectez moins — un top-k élevé à la récupération, un reclassement, puis seulement les 4 à 6 meilleurs injectés.
Empoisonnement du contexte — un exemple de sources contradictoires Défaillance
Your index contains two documents about the return window:

policy-2024.pdf: "Returns accepted within 14 days."
policy-2026.pdf: "Returns accepted within 30 days."

Retrieval returns both chunks. The model, instructed to
answer only from context, resolves the conflict
arbitrarily — often averaging or selecting the first
document. Neither answer is reliable.

Fix: add document date as metadata; instruct the model to
prefer the most recent source when content conflicts.

8. Guide de décision

Le RAG n'est pas la réponse à tout problème d'accès à l'information. L'appliquer sans discernement ajoute une complexité d'infrastructure inutile quand la connaissance paramétrique du modèle suffit. Des architectures avancées — Self-RAG (Asai et al., 2023), qui apprend au modèle à décider quand récupérer et à critiquer ses propres résultats, et FLARE (Jiang et al., 2023), qui récupère itérativement à partir de prédictions peu confiantes — traitent certains des modes de défaillance ci-dessus, au prix de complexité et de latence. Le bon ordre est celui-ci : construisez d'abord un pipeline naïf qui fonctionne, mesurez ses modes de défaillance sur vos vraies requêtes, puis appliquez des améliorations ciblées.

Utilisez le RAG

L'information est propriétaire, interne ou spécialisée. Elle change plus vite qu'un cycle d'affinage ne le permet. Les réponses doivent être auditables — traçables jusqu'à une source précise. Le domaine est étroit mais profond (juridique, médical, documentation technique). Le volume de requêtes est élevé et l'information souvent mise à jour. Le RAG est bien adapté : investissez dans la qualité d'indexation et l'évaluation de la récupération.

Passez le RAG

L'information est stable, bien représentée dans les données d'entraînement du modèle et de nature générale. La requête exige du raisonnement, pas de la récupération. Le corpus documentaire fait moins d'environ 200 000 tokens au total — incluez-le directement dans le system prompt en vous appuyant sur la mise en cache des prompts pour réduire le coût. Vous voulez que le modèle se comporte autrement, pas qu'il en sache plus. L'affinage, l'inclusion dans le system prompt ou un simple prompt sur le modèle de base peuvent suffire.

Évaluez d'abord

Construisez un jeu d'évaluation annoté de 50 à 100 paires question-réponse avant de vous engager sur une architecture. Mesurez le rappel@k de la récupération et la fidélité de la réponse au contexte récupéré. Si le rappel est élevé et la fidélité faible, le problème est l'injection — pas la récupération. Si le rappel est faible, corrigez le découpage et les embeddings avant toute chose. Laissez l'évaluation guider l'architecture — la plupart des équipes font l'inverse.

La leçon 06 referme la série avec l'évaluation et les tests : comment construire les jeux d'évaluation, les métriques et les pipelines automatisés nécessaires pour mesurer systématiquement la qualité des prompts et de la récupération — et comment savoir quand un système RAG est réellement prêt à partir.

Cette leçon vous a-t-elle été utile ?

FAQ

Questions fréquentes

Le RAG ancre les réponses d'un modèle de langage dans une connaissance externe, en récupérant les fragments de documents pertinents au moment de la requête et en les injectant dans le prompt. Introduit formellement par Lewis et al. (2020), il ajuste ce que le modèle sait au moment de l'inférence, sans réentraîner ses poids, et il est devenu l'architecture dominante pour ancrer les sorties d'un modèle dans une information vérifiable et actualisable.

Références

  1. Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020. arXiv:2005.11401.
  2. Gao, Y., et al. (2023). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv:2312.10997.
  3. Günther, M., et al. (2024). Late Chunking: Contextual Chunk Embeddings Using Long-Context Embedding Models. arXiv:2409.04701.
  4. Douze, M., et al. (2024). The Faiss Library. arXiv:2401.08281.
  5. Robertson, S. & Zaragoza, H. (2009). The Probabilistic Relevance Framework: BM25 and Beyond. Foundations and Trends in Information Retrieval, 3(4).
  6. Anthropic. (2024). Introducing Contextual Retrieval. anthropic.com/news/contextual-retrieval.
  7. Liu, N. F., et al. (2023). Lost in the Middle: How Language Models Use Long Contexts. arXiv:2307.03172.
  8. Asai, A., et al. (2023). Self-RAG: Learning to Retrieve, Generate, and Critique Through Self-Reflection. ICLR 2024. arXiv:2310.11511.
  9. Jiang, Z., et al. (2023). Active Retrieval Augmented Generation. arXiv:2305.06983.

Envie de vous tester ?

10 questions tirées au hasard des six leçons de la Partie I. Sans limite de temps. Partagez votre score.

Faire le quiz

Contact

Un système à construire ?

Si vous montez un pipeline RAG, un workflow d'agents IA ou une intégration MCP et que vous voulez comparer vos notes, échanger des idées, ou simplement éviter les erreurs que j'ai déjà faites — écrivez-moi.

Ou recevez le Playbook par e-mail — un message quand une nouvelle leçon sort, et rien d'autre.

Pas de bruit, pas de spam. Désinscription à tout moment.