Les modèles à goulot d'étranglement conceptuel (CBM) sont une classe d'architectures de réseaux de neurones conçues pour effectuer des prédictions en deux étapes, avec une couche intermédiaire explicite et interprétable par l'humain de concepts. Au lieu de mapper directement les entrées brutes aux sorties, un CBM prédit d'abord un ensemble de attributs prédéfinis et sémantiquement significatifs (les concepts), puis utilise ces concepts prédits pour prendre la décision finale. Cette conception permet aux humains d'inspecter, de comprendre et même d'intervenir sur le raisonnement interne du modèle, répondant ainsi à une limitation clé des modèles boîte noire standard en apprentissage automatique et en apprentissage profond.
L'approche du goulot d'étranglement conceptuel a été formellement introduite dans un article de 2020 par Pang Wei Koh, Thao Nguyen, Yew Siang Tang, Stephen Mussmann, Brandon Ying et Percy Liang, affiliés à Université de Stanford et l'Université de Toronto. L'article, intitulé « Concept Bottleneck Models », a démontré qu'en forçant le modèle à prédire des concepts interprétables avant la sortie finale, on pouvait atteindre une précision compétitive tout en gagnant la capacité de déboguer et de contrôler le comportement du modèle. Ce travail s'est appuyé sur des idées antérieures de représentations interprétables et désentrelacées, mais a fourni une architecture concrète et entraînable qui a depuis influencé un large corpus de recherches.
Architecture et entraînement
Un modèle à goulot d'étranglement conceptuel se compose de trois composants principaux : un encodeur d'entrée, un prédicteur de concepts et un prédicteur de tâche. L'encodeur d'entrée traite les données brutes (par exemple, une image, une séquence de texte ou un enregistrement tabulaire) en une représentation de caractéristiques. Le prédicteur de concepts mappe ensuite cette représentation à un vecteur de scores de concepts, un pour chaque concept prédéfini. Enfin, le prédicteur de tâche prend ces scores de concepts (et éventuellement les caractéristiques d'origine) comme entrée pour produire la sortie finale, telle qu'une étiquette de classe ou une valeur de régression.
L'entraînement d'un CBM suit généralement l'un des trois paradigmes : l'entraînement indépendant, l'entraînement séquentiel et l'entraînement conjoint. Dans l'entraînement indépendant, le prédicteur de concepts est d'abord entraîné à prédire les étiquettes de concepts de vérité terrain, puis le prédicteur de tâche est entraîné sur les concepts prédits (ou sur les concepts de vérité terrain, avec le prédicteur de concepts gelé). L'entraînement séquentiel entraîne d'abord le prédicteur de concepts, puis le prédicteur de tâche tout en maintenant le prédicteur de concepts fixe, mais utilise les concepts prédits pendant l'entraînement de la tâche. L'entraînement conjoint optimise les deux composants simultanément, souvent avec une perte pondérée qui combine l'erreur de prédiction des concepts et l'erreur de prédiction de la tâche. L'entraînement conjoint donne généralement la meilleure précision de tâche, mais peut sacrifier la précision des concepts. Une variante courante est l'entraînement « conscient de l'intervention », où le modèle est entraîné à être robuste aux corrections humaines des prédictions de concepts, permettant aux utilisateurs de corriger les erreurs au moment du test.
Interprétabilité et intervention
La motivation principale des CBM est l'interprétabilité. En contraignant le modèle à raisonner à travers des concepts compréhensibles par l'humain, les utilisateurs peuvent voir quels concepts le modèle croit présents et comment ces concepts influencent la prédiction finale. Par exemple, dans une tâche de classification d'oiseaux, un CBM pourrait prédire des concepts comme « a un ventre jaune », « a des ailes pointues » et « a une longue queue », puis les utiliser pour classer l'espèce. Cette transparence permet aux experts du domaine de vérifier que le modèle utilise des caractéristiques sensées plutôt que des corrélations fallacieuses.
Une caractéristique distinctive des CBM est la capacité d'intervenir. Si un utilisateur sait que la prédiction de concept du modèle est erronée (par exemple, il n'a pas détecté un ventre jaune), il peut manuellement corriger cette valeur de concept, et le prédicteur de tâche produira une nouvelle sortie basée sur le concept corrigé. Cette capacité de type humain-dans-la-boucle est précieuse dans des domaines à enjeux élevés comme la médecine ou la finance, où une erreur du modèle peut être corrigée avant qu'une décision finale ne soit prise. La recherche a montré que même un petit nombre d'interventions peut améliorer considérablement la précision, surtout lorsque le prédicteur de concepts est imparfait.
Applications
Les CBM ont été appliqués dans divers domaines. En imagerie médicale, ils ont été utilisés pour le diagnostic de radiographies pulmonaires, où les concepts correspondent à des pathologies visibles comme « cardiomégalie » ou « épanchement ». En dermatologie, les CBM peuvent prédire des attributs de lésions cutanées avant de classer la malignité. En conduite autonome, des concepts comme « piéton présent » ou « couleur du feu de signalisation » peuvent être utilisés pour prendre des décisions de conduite, bien que cela soit moins courant que dans les tâches de perception. En traitement du langage naturel, les CBM ont été appliqués à l'analyse des sentiments et à la détection de toxicité, avec des concepts tels que « contient des grossièretés » ou « exprime la colère ». Dans les données tabulaires, les CBM ont été utilisés pour la notation de crédit, où des concepts comme « niveau de revenu » et « historique de paiement » sont interprétables.
Variantes et extensions
Plusieurs variantes de CBM ont été proposées pour répondre aux limitations. Les CBM sans étiquettes (introduits en 2022 par Tu, Ma et d'autres) éliminent le besoin d'annotations manuelles de concepts en utilisant un grand modèle pré-entraîné (par exemple, un grand modèle de langage ou un modèle vision-langage) pour générer automatiquement des étiquettes de concepts à partir de descriptions de classes. Cela réduit le fardeau d'annotation, qui est un goulot d'étranglement majeur pour appliquer les CBM à de nouvelles tâches. Une autre variante, le modèle d'embedding de concepts, projette les concepts dans un espace d'embedding continu plutôt que d'utiliser des étiquettes binaires ou catégorielles, permettant des représentations de concepts plus riches. Les CBM post-hoc tentent d'extraire un goulot d'étranglement conceptuel d'un modèle boîte noire déjà entraîné, en utilisant des techniques de sondage ou de regroupement pour identifier des dimensions interprétables.
D'autres extensions incluent les CBM probabilistes, qui modélisent l'incertitude des concepts, et les CBM interactifs, qui permettent aux utilisateurs d'interroger le modèle sur les concepts les plus influents. Certains travaux ont intégré les CBM avec des architectures transformeur, utilisant des mécanismes d'attention pour aligner les concepts avec les régions d'entrée.
Limitations et défis
Malgré leurs avantages, les CBM font face à plusieurs défis. Le plus significatif est l'exigence d'annotations de concepts, qui sont coûteuses et souvent subjectives. Définir un ensemble complet et non chevauchant de concepts pour une tâche est difficile, et des concepts manquants peuvent entraîner une perte d'information et une précision réduite. Les CBM ont également tendance à sous-performer par rapport aux modèles boîte noire standard sur des tâches complexes, car le goulot d'étranglement conceptuel restreint le flux d'information. Le compromis entre interprétabilité et précision est une question de recherche centrale.
Un autre problème est la fuite de concepts : le prédicteur de tâche pourrait apprendre à utiliser les prédictions de concepts de manière non intentionnelle, ou le prédicteur de concepts pourrait encoder des informations au-delà des concepts déclarés (par exemple, à travers des caractéristiques corrélées). Cela peut rendre le modèle moins interprétable que prévu. De plus, les interventions humaines ne sont efficaces que si le prédicteur de tâche est robuste aux corrections de concepts ; sinon, corriger un concept pourrait ne pas changer la sortie comme attendu.
Relation avec d'autres méthodes d'interprétabilité
Les CBM font partie d'une famille plus large de techniques d'apprentissage automatique interprétable. Ils sont souvent contrastés avec les méthodes d'explication post-hoc comme les cartes de saillance ou l'attribution basée sur les gradients, qui tentent d'expliquer un modèle boîte noire après l'entraînement. Les CBM sont intrinsèquement interprétables par conception, ce qui est généralement préféré pour les décisions à enjeux élevés. Ils sont également liés aux explications basées sur les concepts, comme les tests avec vecteurs d'activation de concepts (TCAV), qui utilisent des dérivées directionnelles pour mesurer l'influence des concepts, mais TCAV ne contraint pas l'architecture du modèle. Les CBM sont parfois comparés aux arbres de décision et aux modèles basés sur des règles, qui sont également intrinsèquement interprétables mais moins flexibles.
Recherche actuelle et orientations futures
La recherche sur les CBM continue d'évoluer. Des travaux récents se sont concentrés sur la mise à l'échelle des CBM à des ensembles de données à grande échelle et leur intégration avec des modèles de fondation. Par exemple, l'utilisation d'embeddings de style CLIP pour définir des concepts dans un espace continu a montré des promesses. Une autre direction est l'utilisation des CBM dans l'apprentissage par renforcement et la robotique, où des représentations intermédiaires interprétables peuvent aider à la sécurité et au débogage. Il y a aussi un intérêt pour l'utilisation des CBM pour l'équité et l'atténuation des biais, car les goulots d'étranglement conceptuels permettent aux auditeurs de vérifier si des attributs protégés sont utilisés.
En 2025, les CBM restent un domaine de recherche actif, avec des articles apparaissant dans des conférences majeures comme NeurIPS, ICML et ICLR. Le compromis entre interprétabilité et performance n'est toujours pas entièrement résolu, mais le domaine évolue vers des modèles basés sur les concepts plus flexibles et évolutifs, y compris ceux qui apprennent les concepts dynamiquement plutôt que de s'appuyer sur des ensembles fixes définis par l'humain.