Chaîne de pensée et auto-cohérence Le mécanisme, les variantes et leurs limites

Réponse rapide

La chaîne de pensée n'est pas une formule magique. C'est une intervention structurelle : les étapes de raisonnement du modèle deviennent des tokens dans son contexte, et chaque token ultérieur — la réponse comprise — y est conditionné.

  • Sept variantes solidement étayées empiriquement, chacune visant un mode de défaillance différent de la CoT de base.
  • L'auto-cohérence échantillonne N chaînes et retient la majorité — 10 à 18 points sur les bancs d'essai mathématiques, pour N fois le coût.
  • Les modèles de raisonnement inversent le conseil. Avec la réflexion étendue activée, un déclencheur de CoT dans le tour utilisateur entre en concurrence avec le processus interne du modèle.

Les leçons 01 et 02 ont posé les fondations : les prompts façonnent des distributions de probabilité, et le system prompt est la couche au plus fort effet de levier de tout système de production. Toutes deux mentionnaient la chaîne de pensée comme technique clé. Cette leçon l'examine pour de bon — mécanisme, variantes, limites, et la question qui compte le plus en 2026 : qu'advient-il de la CoT lorsque le modèle raisonne en interne avant de parler ?

1. Le mécanisme, au niveau des tokens

Un modèle de langage génère les tokens de gauche à droite, un par un. Chaque token est échantillonné dans une distribution conditionnée par tout ce qui le précède — l'ensemble de la fenêtre de contexte, y compris tout ce que le modèle a déjà produit dans la réponse en cours. C'est ce fait architectural qui fait fonctionner la chaîne de pensée : la sortie intermédiaire du modèle devient partie de son contexte.

Quand un modèle écrit « réfléchissons étape par étape » puis produit des étapes de raisonnement, ces étapes ne sont pas décoratives. Ce sont des tokens dans la fenêtre de contexte. Chaque token suivant, réponse finale comprise, y est conditionné. Le modèle lit, au sens strict, son propre raisonnement avant de conclure.

Le modèle ne peut pas sauter directement à la réponse sans passer par des états de tokens intermédiaires qui contraignent ce qui devient probable ensuite. C'est cette propriété — et non une faculté de raisonnement particulière — qui explique pourquoi externaliser le raisonnement améliore la justesse. Sur des problèmes réellement multi-étapes (inférence logique, analyse multi-documents, planification sous contraintes), la voie directe produit des taux d'erreur nettement supérieurs, car le modèle n'a pas les tokens intermédiaires qui tireraient la distribution de sa réponse vers la bonne région.

Le mécanisme central

La CoT fonctionne parce que chaque étape de raisonnement est ajoutée au contexte avant que la suivante ne soit générée. Le modèle ne peut pas « sauter » à la réponse sans traverser des états de tokens intermédiaires qui contraignent les tokens probables ensuite. C'est cette propriété architecturale — et non une capacité de raisonnement particulière — qui explique le gain de justesse.

Réponse directe ou trace de raisonnement Exemple
# Without CoT — direct path
Q: A shop sells apples at £0.40 each and pears at £0.65
each. A customer buys 5 apples and 3 pears. What is
the total?
A: £3.95

# With CoT — reasoning trace
Q: A shop sells apples at £0.40 each and pears at £0.65
each. A customer buys 5 apples and 3 pears. What is
the total?
A: 5 apples × £0.40 = £2.00. 3 pears × £0.65 = £1.95.
Total = £2.00 + £1.95 = £3.95.

L'exemple arithmétique est assez simple pour que les deux voies aboutissent à la même réponse. Sur des problèmes réellement multi-étapes — inférence logique, analyse multi-documents, planification sous contraintes — la voie directe produit des taux d'erreur nettement plus élevés, faute des tokens intermédiaires qui orienteraient la distribution de la réponse vers la bonne région.

La trace de raisonnement n'est pas une explication de la réponse. Elle fait partie de l'entrée qui produit la réponse.
Pourquoi l'ordre de génération compte

2. Le résultat d'origine, et ce qu'il montrait vraiment

Wei et al. (2022) ont introduit le prompting en chaîne de pensée dans un article qui reste parmi les plus cités du domaine. Demander aux modèles de produire des étapes de raisonnement intermédiaires avant la réponse finale améliorait les performances sur les bancs d'essai dans de larges proportions — souvent 40 % ou plus — sur des modèles d'une taille suffisante. Deux aspects de ce résultat sont régulièrement mal lus.

Wei et al. (2022) — résultat clé

Le prompting en chaîne de pensée augmente significativement la capacité des modèles de langage à mener un raisonnement complexe — dépassant parfois les modèles affinés de l'état de l'art sur les tâches d'arithmétique, de sens commun et de raisonnement symbolique.

La dépendance à l'échelle. La CoT dégrade les performances des petits modèles. Dans l'étude d'origine, la technique n'améliorait la justesse de façon fiable qu'au-delà d'environ 100 milliards de paramètres, et l'effet était émergent — il apparaissait de façon discontinue à l'échelle plutôt que de progresser graduellement. Le seuil a depuis beaucoup baissé avec l'amélioration des méthodes d'entraînement ; les modèles de 7 à 13 milliards de paramètres montrent aujourd'hui un bénéfice net. Le principe tient malgré tout : la CoT exige un modèle doté d'assez de capacité pour traiter les étapes intermédiaires comme de vraies contraintes. En deçà, elle ajoute du bruit.

La dépendance au type de tâche. La CoT améliore le raisonnement compositionnel — les tâches où des étapes discrètes doivent être enchaînées correctement. Elle n'apporte presque rien sur la recherche d'information (« en quelle année X a-t-il eu lieu ? ») ni sur les tâches en une seule étape. C'est une intervention ciblée, pas un accélérateur universel de performance.

L'article introduisait la CoT few-shot, où chaque exemple présente à la fois la question et une solution annotée pas à pas. Kojima et al. (2022) ont ensuite montré que la variante zero-shot, bien plus simple — ajouter « réfléchissons étape par étape » — capte l'essentiel du bénéfice sans le moindre exemple annoté.

3. Sept variantes, et quand employer chacune

Depuis 2022, une famille de variantes de la CoT s'est constituée, chacune visant un mode de défaillance différent de la technique de base. La revue de Schulhoff et al. (2024) les recense à travers 1 565 articles. Sept bénéficient d'un solide appui empirique et de cas d'usage clairs en production.

La forme la plus simple. On ajoute au prompt une phrase déclencheuse qui demande au modèle de raisonner avant de conclure. Aucun exemple requis. Kojima et al. (2022) ont montré que la phrase « Réfléchissons étape par étape » surpasse toutes les alternatives testées, y compris des formulations plus élaborées — sa brièveté et sa franchise semblent participer de son efficacité.

CoT zero-shot — phrases déclencheuses Testé sur banc d'essai
— Highest-performing (Kojima et al. 2022)
Let's think step by step.

— Stronger for structured tasks
Think through this carefully, one step at a time.

— Stronger for causal / diagnostic reasoning
Before answering, work through the problem
from first principles. Show your reasoning.

À employer quand : aucun exemple annoté n'est disponible, la tâche est nouvelle ou variée, ou vous voulez un gain de référence rapide sans alourdir le prompt. La CoT zero-shot est la bonne première expérience avant d'investir dans des exemples few-shot.

4. L'auto-cohérence — échantillonner plusieurs voies

Wang et al. (2022) ont identifié une limite fondamentale de la CoT gloutonne : quand le modèle ne génère qu'une seule chaîne de raisonnement, la qualité de la réponse finale dépend entièrement du fait que cette chaîne-là se soit trouvée correcte. Les erreurs précoces dans la trace se cumulent ; le modèle n'a aucun mécanisme pour détecter qu'il s'est fourvoyé.

L'auto-cohérence échantillonne N chaînes de raisonnement indépendantes depuis le même prompt, à température non nulle, et retient la réponse majoritaire. Des chaînes différentes commettent des erreurs différentes : le vote majoritaire est donc nettement plus fiable que n'importe quelle chaîne isolée. Wang et al. ont mesuré des gains de 17,9 points sur GSM8K, 11,0 sur SVAMP et 12,2 sur AQuA face à la CoT standard. Le gain est le plus fort là où une même bonne réponse peut être atteinte par plusieurs chemins valides.

Prompt

Une question, un prompt de style CoT — inchangé d'un échantillon à l'autre.

Échantillonner N fois

Générer N chaînes de raisonnement indépendantes à température non nulle, typiquement N = 5.

Marginaliser

Extraire la réponse finale de chaque chaîne et prendre le vote majoritaire sur les N.

Sortie

La réponse majoritaire, en écartant les chaînes individuelles qui l'ont produite.

Là où l'auto-cohérence justifie son coût

  • Classification à fort enjeu (triage médical, évaluation du risque juridique, détection de fraude).
  • Raisonnement quantitatif multi-étapes où une seule erreur coûterait cher.
  • Systèmes de décision automatisés sans relecture humaine en aval.
  • Évaluation d'autres prompts — l'auto-cohérence servant d'étalon auquel comparer des prompts plus simples.

N = 5

Point de départ

0.7

Température d'échantillonnage

×N

Coût et latence

L'arbitrage du coût

L'auto-cohérence multiplie le coût d'API et la latence par N. Ce n'est pas une technique pour chaque appel — c'est un investissement ciblé pour des décisions à fort enjeu, où la fiabilité justifie la facture. Commencez à N = 5 et mesurez. Sur la plupart des tâches de production, la réponse majoritaire se stabilise entre 5 et 10 ; passer à 20 dépasse rarement 10 de façon significative et double la facture. Échantillonnez à une température de 0,7, sauf si la tâche est purement factuelle : des températures plus basses produisent des chaînes moins diverses et affaiblissent toute la méthode.

5. Tree of Thoughts — une recherche délibérée

La CoT standard et l'auto-cohérence sont toutes deux linéaires dans le temps : elles génèrent une séquence de tokens du début à la fin. Yao et al. (2023) ont introduit Tree of Thoughts comme une architecture différente — une recherche dans un arbre d'états de raisonnement, le modèle jouant à chaque nœud le rôle de générateur et d'évaluateur.

Le modèle produit plusieurs pensées candidates à chaque point de branchement. Une étape d'évaluation distincte — un autre appel, ou le même modèle sollicité comme évaluateur — note chaque candidate, et seules les branches les mieux notées sont développées. Sur le Game of 24, GPT-4 en CoT standard résolvait 4 % des problèmes ; avec ToT, il en résolvait 74 %. Yao et al. ont également démontré ToT sur de l'écriture créative sous contraintes structurelles et sur un banc d'essai de mini-mots croisés.

Décomposer

Découper le problème en « pensées » intermédiaires assez petites pour être générées et évaluées indépendamment.

Générer

À chaque point de branchement, produire K pensées candidates — typiquement K = 3 à 5.

Évaluer

Noter chaque candidate — un autre appel, ou le même modèle sollicité comme évaluateur.

Rechercher

Ne développer que les branches les mieux notées, selon une politique de parcours en largeur ou en profondeur.

Conclure

Dès qu'une branche atteint une solution complète, la renvoyer comme réponse finale.

Avant d'y recourir

ToT coûte environ N × K × profondeur appels de modèle par tâche. Une configuration modeste — profondeur 3, facteur de branchement 3, trois appels d'évaluation par nœud — approche les 30 à 40 appels. Cela le place résolument du côté du traitement hors ligne.

  • Traitement par lots, pipelines de recherche et planification à long horizon : oui.
  • Chemins temps réel, face à l'utilisateur : non.
  • Le schéma de déploiement qui fonctionne consiste à générer des sorties de grande qualité hors ligne, puis à les mettre en cache ou à les utiliser comme exemples few-shot pour un modèle en ligne plus léger. Traitez ToT comme un processus de génération dont les sorties sont des actifs, et non comme une stratégie d'inférence à l'exécution.

6. Les modèles de raisonnement changent l'équation

o1 d'OpenAI, puis o3 et o4-mini, ainsi que Claude Sonnet 4.6 et Opus 4.6 d'Anthropic avec la réflexion étendue, ont introduit une catégorie de modèles qui change une chose au tableau ci-dessus : la chaîne de raisonnement est générée en interne, avant que la sortie visible ne commence. Ces modèles raisonnent dans un brouillon caché, reviennent en arrière, explorent des alternatives, et ne produisent qu'ensuite une réponse. Ce que vous lisez est la conclusion d'un processus que vous ne voyez jamais.

Lieu du raisonnement

Standard : dans la sortie visible. Modèle de raisonnement : dans un brouillon caché.

Déclencheur de CoT

Standard : nécessaire pour provoquer le comportement. Modèle de raisonnement : redondant, et souvent nuisible.

Profondeur du raisonnement

Standard : proportionnelle au contexte dépensé. Modèle de raisonnement : un budget de réflexion configurable.

Latence

Standard : faible — les tokens de raisonnement sont des tokens de génération. Modèle de raisonnement : plus élevée, la réflexion précède la sortie.

Stratégie de prompt

Standard : rôle + déclencheur de CoT + format. Modèle de raisonnement : rôle + contraintes + format, sans déclencheur.

Auto-cohérence

Standard : précieuse — chaque échantillon explore une voie différente. Modèle de raisonnement : moins nécessaire, la recherche interne le fait déjà.

La documentation d'Anthropic indique clairement que demander un raisonnement explicite pas à pas dans le tour utilisateur est inutile avec la réflexion étendue, et peut donner de moins bons résultats que de la laisser se dérouler sans interruption. Les recommandations d'OpenAI pour la série o disent la même chose : évitez les instructions de style CoT, consacrez plutôt le prompt à une spécification claire de la tâche.

La valeur de l'auto-cohérence diminue également sur les modèles de raisonnement, car la recherche interne explore déjà plusieurs voies au sein d'une même génération. Échantillonner N réponses apporte encore un gain, mais le rendement marginal de chaque échantillon supplémentaire est plus faible que sur les modèles standard. L'arbitrage coût-bénéfice se déplace en conséquence.

7. Quand ne pas l'utiliser

On applique la CoT par réflexe à tout ce qui a l'air difficile. C'est une erreur. Quatre conditions la rendent contre-productive.

Quatre conditions

  • Tâches simples ou en une seule étape. Retrouver un fait, formater une chaîne, extraire une entité nommée — les étapes intermédiaires sont du remplissage, pas du raisonnement. Utilisez le zero-shot avec une spécification de format serrée.
  • Modèles trop petits. En dessous d'environ 7 milliards de paramètres, la CoT peut réduire la justesse en produisant des étapes plausibles mais fausses, qui orientent la réponse vers la mauvaise région. Comparez à votre référence ; ne présumez pas qu'elle aide.
  • Chemins critiques en latence. Autocomplétion en temps réel, post-traitement de transcription, chat en moins d'une seconde — ils ne peuvent pas absorber les tokens supplémentaires. Acceptez le compromis sur la justesse et réservez la CoT au traitement par lots.
  • Modèles de raisonnement. L'erreur la plus fréquente lors d'une migration depuis des modèles standard. La sortie paraît plus verbeuse ; la qualité est souvent moindre, car l'instruction du tour utilisateur concurrence le processus interne au lieu de s'y ajouter.

8. Guide de décision — choisir une variante

Le choix doit être dicté par le type de tâche, le modèle et la contrainte de coût. Voici les scénarios de production courants et où chacun se situe.

Tâche → technique

  • Arithmétique multi-étapes, le coût n'est pas la contrainte. Auto-cohérence à N = 5 à 10 par-dessus une CoT zero-shot.
  • Arithmétique multi-étapes, sensible à la latence. CoT few-shot avec deux ou trois exemples annotés.
  • Classification ambiguë aux modes de défaillance connus. CoT contrastive, avec le raisonnement correct et l'incorrect tous deux étiquetés.
  • Analyse de domaine — juridique, médical, financier. Prise de recul, puis CoT few-shot.
  • Planification multi-variables ou décisions séquentielles. Planifier puis résoudre, ou CoT tabulaire.
  • Tâche nouvelle sans exemple disponible. Raisonnement analogique, plus une CoT zero-shot.
  • Satisfaction de contraintes complexe, hors ligne. Tree of Thoughts.
  • Toute tâche de raisonnement sur la série o ou avec réflexion étendue. Pas de déclencheur de CoT — investissez plutôt dans le rôle, les contraintes et le format.
  • Recherche d'information ou formatage simple. Pas de CoT — zero-shot direct avec une spécification de format, sur n'importe quel modèle.

Chaque ligne ci-dessus est une recommandation de départ, pas une garantie. Construisez un jeu de test de dix à quinze entrées représentatives avant de vous engager sur une variante. La technique qui l'emporte sur votre jeu est la bonne, quoi que dise la littérature sur le cas général. Les distributions de tâches varient ; vos données font foi.

La leçon 04 passe des techniques de raisonnement individuelles au niveau de l'architecture : comment concevoir et évaluer des chaînes de prompts, quand découper une tâche sur plusieurs appels de modèle, et comment structurer les passages de relais pour qu'une erreur à une étape ne se propage pas silencieusement dans tout le pipeline.

Cette leçon vous a-t-elle été utile ?

FAQ

Questions fréquentes

Le prompting en chaîne de pensée demande à un modèle de langage de produire des étapes de raisonnement intermédiaires avant sa réponse finale. Chaque étape étant ajoutée à la fenêtre de contexte, elle oriente les probabilités des tokens suivants — réponse comprise — vers une région plus juste. Wei et al. (2022) l'ont introduit et ont mesuré des gains de 40 % ou plus sur les bancs d'essai de raisonnement multi-étapes.

Références

  1. Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS 2022. arXiv:2201.11903.
  2. Kojima, T., et al. (2022). Large Language Models are Zero-Shot Reasoners. NeurIPS 2022. arXiv:2205.11916.
  3. Schulhoff, S., et al. (2024). The Prompt Report: A Systematic Survey of Prompting Techniques. arXiv:2406.06608.
  4. Zheng, H. S., et al. (2023). Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models. ICLR 2024. arXiv:2310.06117.
  5. Wang, L., et al. (2023). Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models. ACL 2023. arXiv:2305.04091.
  6. Jin, Z., et al. (2023). Tab-CoT: Zero-shot Tabular Chain of Thought. ACL Findings 2023. arXiv:2305.17812.
  7. Yasunaga, M., et al. (2023). Large Language Models as Analogical Reasoners. ICLR 2024. arXiv:2310.01714.
  8. Chia, Y. K., et al. (2023). Contrastive Chain-of-Thought Prompting. arXiv:2311.09277.
  9. Wang, X., et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  10. Yao, S., et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
  11. Anthropic. (2025). Extended Thinking — Claude API Documentation. docs.anthropic.com.
  12. OpenAI. (2025). Reasoning Models — Prompting Guidance. platform.openai.com/docs/guides/reasoning.

Envie de vous tester ?

10 questions tirées au hasard des six leçons de la Partie I. Sans limite de temps. Partagez votre score.

Faire le quiz

Contact

Un système à construire ?

Si vous montez un pipeline RAG, un workflow d'agents IA ou une intégration MCP et que vous voulez comparer vos notes, échanger des idées, ou simplement éviter les erreurs que j'ai déjà faites — écrivez-moi.

Ou recevez le Playbook par e-mail — un message quand une nouvelle leçon sort, et rien d'autre.

Pas de bruit, pas de spam. Désinscription à tout moment.