Explications contrefactuelles

Les explications contrefactuelles sont une technique en apprentissage automatique pour interpréter les prédictions d'un modèle en identifiant le plus petit changement dans les caractéristiques d'une entrée donnée qui inverserait la sortie du modèle vers une alternative souhaitée. Pour une instance spécifique, une explication contrefactuelle répond à la question : « Quelle est la modification minimale nécessaire pour que la prédiction devienne le résultat cible ? » Par exemple, si une demande de prêt est refusée, un contrefactuel pourrait indiquer : « Si votre revenu annuel était supérieur de 5 000 $, votre demande serait approuvée. »

Ces explications sont ancrées dans le concept philosophique des contrefactuels - des énoncés sur ce qui se serait produit dans des conditions différentes. En IA, elles offrent une forme d'interprétabilité locale, se concentrant sur une seule prédiction plutôt que sur un modèle global. Elles sont particulièrement précieuses pour les utilisateurs finaux qui recherchent des recours actionnables : comprendre ce qu'ils peuvent changer pour obtenir un résultat favorable. Contrairement aux méthodes d'importance des caractéristiques qui classent les variables globalement, les contrefactuels proposent des suggestions concrètes et individualisées.

Le terme a gagné en importance à la fin des années 2010, avec des travaux fondateurs de Ruth Fong et Andrea Vedaldi (2017), puis de Sandra Wachter, Brent Mittelstadt et Chris Russell (2017), qui ont formalisé la notion pour la prise de décision algorithmique. Depuis, les explications contrefactuelles sont devenues un pilier central de l'IA explicable (XAI), en intersection avec des cadres juridiques comme le Règlement général sur la protection des données (RGPD) de l'UE, qui accorde aux individus le droit d'obtenir des explications sur les décisions automatisées.

Le Concept et la Formalisation

Une explication contrefactuelle pour une entrée donnée x et une prédiction f(x) est une nouvelle entrée x' telle que f(x') égale un résultat souhaité (par exemple, approbation au lieu de refus). Le changement de x à x' est généralement mesuré par une métrique de distance (par exemple, norme L1, L2 ou L0) pour garantir la minimalité. Formellement, on cherche à minimiser la distance d(x, x') sous la contrainte f(x') = y', où y' est l'étiquette cible.

La notion de minimalité est subjective ; différentes fonctions de distance produisent différents contrefactuels. Pour les données tabulaires, on peut utiliser la distance L1 pour favoriser la parcimonie (changer peu de caractéristiques), tandis que pour les images, on peut utiliser une similarité perceptuelle. Des contraintes peuvent être ajoutées : certaines caractéristiques peuvent avoir des valeurs immuables (par exemple, l'âge) ou être catégorielles. De plus, le contrefactuel doit être réalisable et plausible - c'est-à-dire que les changements suggérés doivent être atteignables de manière réaliste par l'utilisateur (par exemple, augmenter le revenu est plausible ; changer l'état civil peut ne pas l'être).

Les explications contrefactuelles sont spécifiques à une instance, ce qui contraste avec les explications globales comme l'importance des caractéristiques. Elles ne décrivent pas le comportement global du modèle mais plutôt un chemin vers un résultat différent pour un cas unique. Cela les rend intuitives mais aussi sensibles au choix du résultat cible et de la métrique de distance.

Algorithmes et Approches

Plusieurs algorithmes génèrent des explications contrefactuelles. Les premières méthodes utilisaient l'optimisation par descente de gradient : pour les modèles différentiables (par exemple, les réseaux de neurones), on peut minimiser une perte qui équilibre la prédiction cible et le terme de distance. Les implémentations spécifiques incluent :

• Wachter et al. (2017) : Une approche par descente de gradient qui trouve des contrefactuels pour les modèles différentiables en optimisant une fonction de coût avec deux termes : la perte de prédiction et la distance.
• Growing Spheres (Laugel et al., 2017) : Pour les modèles non différentiables, cette méthode recherche le point limite le plus proche en élargissant itérativement une sphère autour de l'entrée jusqu'à ce que la prédiction s'inverse.
• DiCE (Mothilal et al., 2020) : Génère un ensemble diversifié de contrefactuels pour offrir des choix aux utilisateurs, en utilisant un autoencodeur appris ou une recherche indépendante du modèle.
• Méthodes basées sur les arbres : Pour les forêts aléatoires ou le boosting de gradient, on peut parcourir les chemins de décision pour trouver les voisins les plus proches dans l'espace des feuilles.

Les méthodes indépendantes du modèle traitent le modèle comme une boîte noire et s'appuient sur l'échantillonnage ou des techniques d'optimisation, ce qui les rend applicables à tout classifieur. Cependant, elles peuvent être coûteuses en calcul pour des entrées de haute dimension comme les images.

Applications dans le Crédit et la Finance

Le secteur financier est un domaine majeur pour les explications contrefactuelles. Lorsqu'une demande de prêt ou de carte de crédit est rejetée par un système automatisé, des réglementations telles que l'Egual Credit Opportunity Act (ECOA) aux États-Unis exigent que les prêteurs fournissent des raisons. Les explications contrefactuelles vont plus loin en suggérant ce que le demandeur pourrait changer : « Si vous réduisiez votre dette existante de 2 000 $, votre demande serait approuvée. » Cela donne aux consommateurs un recours actionnable.

Les banques et les entreprises de technologie financière ont commencé à intégrer des outils contrefactuels dans leurs pipelines de décision. Par exemple, un modèle entraîné sur arbres de boosting de gradient pourrait être associé à un générateur de contrefactuels pour produire des explications pour chaque refus. Le défi est d'équilibrer la faisabilité : suggérer une augmentation du revenu n'est pas actionnable, donc les systèmes doivent apprendre à mettre en évidence les caractéristiques sous le contrôle de l'utilisateur (par exemple, les habitudes de dépenses, l'historique du compte).

Santé et Médecine

Dans le domaine de la santé, les explications contrefactuelles aident les cliniciens à comprendre pourquoi un modèle diagnostique a fait une prédiction particulière. Par exemple, un réseau de neurones prédisant la réadmission d'un patient pourrait offrir : « Si la pression artérielle du patient était inférieure de 10 mmHg, le risque de réadmission passerait de élevé à faible. » Cela aide à la planification du traitement, comme détaillé dans un article de 2020 dans Artificial Intelligence in Medicine.

Cependant, les contrefactuels médicaux nécessitent une gestion prudente des relations causales. Changer un biomarqueur comme la pression artérielle pourrait être corrélé à d'autres facteurs non observés. Des chercheurs de Stanford AI Lab et MIT CSAIL ont exploré des contrefactuels causaux qui intègrent des connaissances médicales connues pour éviter de suggérer des scénarios impossibles.

Explications Contrefactuelles dans les Modèles d'Images et de Texte

Pour les modèles d'apprentissage profond sur les images, les explications contrefactuelles impliquent de perturber les pixels pour changer la prédiction. Par exemple, une image d'un chien pourrait être modifiée en ajoutant un petit motif pour que le modèle la classe comme un chat, comme le montre la recherche sur les exemples adverses. Contrairement aux exemples adverses, les contrefactuels visent des changements significatifs qu'un humain pourrait percevoir comme plausibles. Des techniques comme les réseaux antagonistes génératifs (GAN) ou les autoencodeurs peuvent générer des contrefactuels d'images en manipulant des codes latents.

En traitement du langage naturel, les explications contrefactuelles pour l'analyse des sentiments pourraient changer « Le film était ennuyeux » en « Le film était passionnant » pour inverser un sentiment négatif en positif. Cela est réalisé en éditant des mots ou des phrases tout en préservant la grammaticalité. Les modèles basés sur les transformeurs, tels que les grands modèles de langage, peuvent être sondés pour générer du texte contrefactuel, mais garantir la minimalité et la fluidité reste un défi.

Liens avec la Causalité et l'Équité

Les explications contrefactuelles sont intimement liées au raisonnement causal. Un vrai contrefactuel devrait refléter la structure causale des données : changer une caractéristique pourrait avoir des effets en cascade (par exemple, augmenter le niveau d'éducation pourrait changer le revenu). Les modèles causaux structurels de Pearl fournissent un cadre formel, mais ils sont souvent indisponibles en pratique. La plupart des méthodes supposent l'indépendance, ce qui peut conduire à des suggestions irréalisables ou incohérentes dans la réalité.

Dans la recherche sur l'équité, l'équité contrefactuelle est un critère qui exige qu'une prédiction soit la même dans le monde réel et dans un monde contrefactuel où un attribut sensible (par exemple, la race, le genre) est modifié. Cette notion, proposée par Kusner et al. (2017), utilise les explications contrefactuelles non pas pour expliquer mais pour auditer les modèles pour les biais. Par exemple, si changer le sexe d'une personne modifiait sa décision de crédit, le modèle serait considéré comme injuste selon cette définition.

Relation avec d'Autres Méthodes d'Explicabilité

Les explications contrefactuelles complètent d'autres techniques XAI. SHAP et LIME fournissent des attributions locales de caractéristiques, indiquant quelles caractéristiques étaient les plus importantes pour une prédiction, mais elles ne disent pas à l'utilisateur comment changer le résultat. Les contrefactuels offrent des suggestions directes. Ils partagent également des similitudes avec les exemples adverses - les deux cherchent des perturbations minimales de l'entrée - mais les contrefactuels visent une classe cible spécifique, tandis que les perturbations adverses visent toute classification erronée et sont souvent imperceptibles.

Dans le contexte de la causalité, les contrefactuels diffèrent des interventions : une intervention change une caractéristique en maintenant les autres constantes (comme une expérience randomisée), tandis qu'un contrefactuel imagine un état hypothétique sous la même structure causale. Cette distinction est cruciale pour les applications sociétales, comme le notent des chercheurs comme Joshua Tenenbaum et Brendan Lake au MIT qui étudient la physique intuitive et le raisonnement causal.

Défis et Limitations

Un défi clé est de garantir que le contrefactuel est réaliste et actionnable. Pour les données tabulaires, certaines caractéristiques peuvent avoir des valeurs immuables (par exemple, l'âge, l'ethnicité), mais de nombreuses méthodes ignorent cela. Les caractéristiques discrètes, comme la catégorie d'emploi, nécessitent un traitement spécial car les distances ne sont pas continues. De plus, les contrefactuels peuvent être instables : de petits changements dans l'entrée ou le modèle peuvent conduire à des suggestions radicalement différentes, réduisant la confiance des utilisateurs.

La complexité de trouver un contrefactuel optimal croît avec la dimensionnalité des caractéristiques. Pour les données de haute dimension comme les images, l'espace de recherche est vaste, et une optimisation naïve peut produire des perturbations imperceptibles mais irréalistes. De plus, de nombreuses méthodes supposent que le modèle est différentiable, ce qui n'est pas toujours le cas pour les ensembles d'arbres ou les pipelines non différentiables.

Il y a aussi un écart sémantique : un contrefactuel mathématiquement minimal peut ne pas être interprétable par un humain. Par exemple, changer une caractéristique de 0,3 unité peut être abstrait. Par conséquent, les chercheurs se concentrent sur la génération de contrefactuels proches dans un sens perceptuel humain, en utilisant des connaissances de domaine ou des études utilisateurs.

Directions Futures

La recherche évolue vers la génération d'explications contrefactuelles dans des contextes interactifs, où les utilisateurs peuvent itérer sur les suggestions. Dans les systèmes d'intelligence artificielle, il y a un intérêt croissant pour fournir des explications contrastives qui comparent la prédiction réelle à une alternative, ce qui peut améliorer la confiance. L'intégration de modèles causaux vise à produire des contrefactuels plus robustes qui respectent les dépendances entre les caractéristiques.

Avec l'essor des grands modèles de langage, il y a un potentiel pour générer des explications contrefactuelles en langage naturel directement à partir du raisonnement d'un modèle. Cependant, garantir la fidélité reste un problème ouvert. Au début des années 2020, aucune méthode unique ne domine ; le choix dépend du type de données, de la famille de modèles et des besoins des utilisateurs.

Considérations Pratiques pour l'Implémentation

Lors du déploiement de systèmes contrefactuels, les praticiens doivent aborder :

• Évolutivité : Générer des contrefactuels pour des millions d'utilisateurs en temps réel nécessite des algorithmes efficaces. Les méthodes comme l'optimisation par descente de gradient sur GPU peuvent être rapides, mais les approches en boîte noire peuvent être plus lentes.
• Interface utilisateur : Les explications doivent être présentées dans un format compréhensible par les humains, souvent comme « Si vous changez X de A à B, votre résultat changerait de P à Q. »
• Indépendance du modèle : Certains régulateurs exigent des explications quel que soit le type de modèle, donc les cadres déployables doivent fonctionner avec tout modèle prédictif, qu'il s'agisse d'un réseau de neurones ou d'un système basé sur des règles.

Des entreprises comme Google DeepMind et OpenAI ont financé des recherches sur la génération robuste de contrefactuels, mais les outils de production restent naissants. En 2023, le concept continue d'évoluer, avec des recherches actives sur les contrefactuels causaux et les scénarios multi-agents.

Directions Futures

À mesure que les systèmes d'IA deviennent plus intégrés dans les décisions conséquentes, la demande d'explications contrefactuelles augmentera. Les développements à venir pourraient inclure :

• L'intégration avec les grands modèles de langage pour générer des récits contrefactuels à partir de données brutes.
• Des explications personnalisées qui s'adaptent aux connaissances de domaine et aux préférences de l'utilisateur.
• La génération de contrefactuels sous incertitude, où plusieurs mondes possibles sont considérés.
• Le lien entre les contrefactuels et des recommandations actionnables par la découverte causale.

Des chercheurs d'institutions comme Carnegie Mellon University et BAIR (Berkeley AI Research) travaillent activement sur ces domaines.

Conclusion

Les explications contrefactuelles sont un outil puissant pour rendre les modèles d'apprentissage automatique transparents et actionnables. En posant des questions « et si », elles transforment des prédictions opaques en étapes concrètes pour les utilisateurs. Leur importance est soulignée par les pressions réglementaires pour une IA explicable et des pratiques éthiques en IA. À mesure que les modèles deviennent plus complexes, le besoin d'interprétabilité contrefactuelle ne fera qu'augmenter, stimulant davantage l'innovation dans la génération et la validation efficaces.