La chaîne de pensée est une technique d'incitation dans laquelle un modèle de langage est invité, ou encouragé, à produire une séquence d'étapes de raisonnement intermédiaires avant de donner une réponse finale, plutôt que de sauter directement à une conclusion. La technique améliore la précision sur les tâches qui nécessitent plusieurs étapes de calcul, de logique ou de raisonnement de sens commun, et est devenue l'une des idées les plus influentes dans ingénierie des incitations après avoir été formellement décrite en 2022.
Origines
Le terme a été introduit dans un article de janvier 2022, « Chain-of-Thought Prompting Elicits Reasoning in Large Language Models », par Jason Wei et ses coauteurs chez Google. L'article a montré que l'inclusion d'un petit nombre d'exemples travaillés dans une incitation, chacun avec les étapes de raisonnement écrites plutôt que seulement la réponse finale, améliorait considérablement les performances d'un modèle sur des problèmes de mathématiques en mots et d'autres tâches multi-étapes, une forme de apprentissage en quelques exemples appliquée via l'incitation elle-même. De manière cruciale, l'article a rapporté que ce bénéfice n'apparaissait que dans des modèles suffisamment grands, liant étroitement la chaîne de pensée à la discussion sur les capacités émergentes et les lois de mise à l'échelle.
Chaîne de pensée en zéro exemple
Plus tard en 2022, un article séparé de Takeshi Kojima et ses coauteurs a découvert qu'une incitation beaucoup plus simple, ajoutant la phrase « réfléchissons étape par étape » à une question sans aucun exemple travaillé, produisait une amélioration similaire de la précision du raisonnement sur de nombreuses tâches. Ce résultat, connu sous le nom de chaîne de pensée en zéro exemple, a montré que le bénéfice ne nécessitait pas strictement des exemples en quelques exemples ; simplement instruire le modèle de raisonner avant de répondre était souvent suffisant pour débloquer de meilleures performances, une instance de comportement zéro exemple s'appuyant sur des capacités que le modèle possédait déjà grâce au pré-entraînement.
Mécanisme et auto-cohérence
Les chercheurs ont proposé plusieurs explications pour savoir pourquoi la chaîne de pensée aide, notamment qu'elle donne au modèle plus d'étapes de calcul pour travailler avant de s'engager sur une réponse, qu'elle permet au modèle d'utiliser son propre raisonnement antérieur comme contexte supplémentaire via apprentissage en contexte, et qu'elle réduit le risque qu'une erreur se propage silencieusement dans une seule passe avant. Une technique connexe appelée auto-cohérence génère plusieurs chaînes de raisonnement indépendantes pour la même question et prend la réponse finale la plus courante parmi elles, améliorant encore la précision au prix d'un calcul supplémentaire.
De la technique d'incitation au comportement entraîné
La chaîne de pensée a commencé comme une stratégie d'incitation appliquée à des modèles qui n'étaient pas spécifiquement entraînés à raisonner étape par étape, mais elle est devenue fondamentale pour une nouvelle classe de systèmes. À partir de OpenAI o1 en 2024, les laboratoires ont commencé à entraîner des modèles avec apprentissage par renforcement spécifiquement pour produire des chaînes de raisonnement longues et efficaces avant de répondre, plutôt que de compter sur un utilisateur pour demander ce comportement par incitation. Ce changement a donné naissance à la catégorie des modèles de raisonnement, y compris DeepSeek-R1, et a recadré la chaîne de pensée d'un truc d'incitation optionnel à un processus interne entraîné, souvent caché, avec la quantité de raisonnement qu'un modèle effectue devenant un nouveau levier, appelé calcul au moment du test, pour améliorer la précision au prix d'un temps d'inférence supplémentaire.