L'approche des ensembles approximatifs basée sur la dominance (DRSA) est une méthodologie d'analyse décisionnelle et d'exploration de données qui étend la théorie classique des ensembles approximatifs pour traiter des données avec des attributs et des classes de décision ordonnés par préférence. Elle a été introduite à la fin des années 1990 par Roman Słowiński et ses collaborateurs en réponse aux limites du modèle original des ensembles approximatifs, qui supposait que tous les attributs étaient nominaux et que les classes de décision n'étaient pas ordonnées. La DRSA remplace la relation d'indiscernabilité des ensembles approximatifs classiques par une relation de dominance, permettant de capturer les relations monotones entre les valeurs des attributs et les résultats de décision, courantes dans l'analyse décisionnelle multicritère, comme l'évaluation du risque de crédit, la performance des fournisseurs ou le pronostic médical.
Dans la DRSA, les objets sont décrits par un ensemble d'attributs conditionnels (critères) et un attribut de décision qui partitionne l'univers en classes de décision. Contrairement aux ensembles approximatifs classiques, où les classes d'équivalence sont formées par des objets ayant des valeurs d'attributs identiques, la DRSA forme des cônes de dominance : pour chaque objet, les unions ascendantes et descendantes des classes de décision sont approximées à l'aide de la relation de dominance. L'approximation inférieure d'une union ascendante contient des objets qui sont certainement classés comme appartenant à au moins une classe donnée, tandis que l'approximation supérieure contient des objets qui sont possiblement classés comme tels. La région frontière, définie comme la différence entre les approximations supérieure et inférieure, capture les objets pour lesquels la classification est incertaine en raison d'incohérences dans les données.
Le résultat principal de la DRSA est un ensemble de règles de décision, généralement de la forme « si l'attribut A est au moins de valeur x et l'attribut B est au plus de valeur y, alors l'objet appartient à au moins la classe z ». Ces règles sont générées à partir des approximations inférieures et se caractérisent par leur minimalité et leur exhaustivité, couvrant toutes les affectations certaines sans redondance. Elles sont particulièrement utiles pour expliquer les décisions aux parties prenantes, car elles sont interprétables et peuvent être validées par rapport aux connaissances du domaine. La DRSA fournit également des mesures de qualité des règles, telles que le support, la confiance et la couverture, qui aident à sélectionner les règles les plus pertinentes pour une application donnée.
Développement historique et fondements théoriques
La théorie classique des ensembles approximatifs a été proposée par Zdzisław Pawlak en 1982 comme un outil mathématique pour raisonner sur des informations imprécises ou incomplètes. Dans le modèle de Pawlak, la relation d'indiscernabilité partitionne l'univers en classes d'équivalence, et les approximations sont définies à l'aide de ces classes. Cependant, ce modèle ne tient pas compte de l'ordre des valeurs des attributs, ce qui est crucial dans de nombreux problèmes réels où les critères sont mesurés sur des échelles ordinales. En 1999, Słowiński et ses collègues ont introduit la DRSA dans une série d'articles, formalisant l'utilisation des relations de dominance pour remplacer l'indiscernabilité. L'approche a ensuite été étendue pour traiter les valeurs manquantes, la cohérence variable et les préférences floues, donnant lieu à des variantes telles que la DRSA à cohérence variable (VC-DRSA) et la DRSA floue.
Le fondement théorique de la DRSA repose sur le concept de monotonie, qui suppose que si un objet a de meilleures valeurs sur tous les critères qu'un autre objet, il ne devrait pas être classé dans une classe de décision pire. Cette hypothèse de monotonie est naturelle pour de nombreux problèmes de décision, comme l'évaluation de la solvabilité d'un emprunteur où un revenu plus élevé et une dette plus faible sont préférés. La DRSA formalise cela en définissant une relation de dominance réflexive, transitive et antisymétrique, et en utilisant cette relation pour construire les approximations des classes de décision. L'approche se connecte également à la théorie de l'analyse décisionnelle multicritère, en particulier aux méthodes de surclassement des familles ELECTRE et PROMETHEE, mais elle diffère en fournissant un mécanisme d'induction de règles purement basé sur les données, sans exiger que le décideur spécifie des paramètres de préférence.
Implémentation algorithmique et variantes
L'implémentation de la DRSA implique plusieurs étapes computationnelles. D'abord, l'ensemble de données est prétraité pour identifier les attributs conditionnels et l'attribut de décision, et les classes de décision sont ordonnées. Ensuite, pour chaque objet, les cônes de dominance sont calculés, ce qui nécessite de comparer l'objet avec tous les autres de l'ensemble de données. Les approximations inférieure et supérieure sont ensuite dérivées en vérifiant si les cônes de dominance sont contenus dans les unions des classes de décision. La complexité de ce processus est O(n^2) en nombre d'objets, ce qui peut être prohibitif pour de grands ensembles de données, mais des optimisations telles que le tri et l'indexation ont été proposées pour réduire la charge computationnelle.
Une variante clé est la DRSA à cohérence variable, qui assouplit la condition de dominance stricte en permettant qu'un certain pourcentage d'objets dans l'approximation inférieure viole l'hypothèse de monotonie. Cela est utile dans les données bruitées où la monotonie parfaite est rare. Une autre variante, la DRSA floue, étend la relation de dominance aux ensembles flous, permettant des degrés d'appartenance dans les approximations. De plus, la DRSA a été intégrée à des techniques de Machine learning, telles que la classification basée sur l'Artificial intelligence et les méthodes de Data Augmentation, pour améliorer la génération de règles et gérer des données de haute dimension. Des implémentations logicielles sont disponibles dans le package R 'RoughSets' et l'environnement Java WEKA, rendant la DRSA accessible aux praticiens.
Applications dans le support décisionnel
La DRSA a été appliquée dans de nombreux domaines où les données ordonnées et la modélisation des préférences sont essentielles. En finance, elle est utilisée pour le scoring de crédit et la prédiction de faillite, où les classes de décision sont ordonnées du risque faible au risque élevé. En médecine, la DRSA soutient le diagnostic et le pronostic en analysant les données des patients avec des indicateurs cliniques ordinaux, tels que les stades de gravité de la maladie. En ingénierie, elle aide au contrôle qualité et à l'évaluation des risques, par exemple, pour évaluer la fiabilité des processus de fabrication. L'approche a également été utilisée en gestion environnementale pour classer les stratégies de remédiation selon plusieurs critères, et en gestion des ressources humaines pour sélectionner des candidats sur la base de mesures de performance ordonnées.
Une application notable se trouve dans le domaine de la Generative AI et de l'évaluation des Large language model, où la DRSA peut être utilisée pour analyser les données de préférences humaines. Par exemple, lors de l'entraînement de modèles avec l'apprentissage par renforcement à partir de feedback humain (RLHF), les chercheurs collectent des comparaisons par paires des sorties du modèle, qui sont intrinsèquement ordonnées. La DRSA peut extraire des règles qui expliquent pourquoi certaines sorties sont préférées, fournissant des informations sur le modèle de récompense sous-jacent. Cela s'aligne avec la tendance plus large d'utiliser des modèles interprétables pour auditer et comprendre les systèmes complexes de Neural network, comme le préconisent des chercheurs tels que Aleksander Madry et Carlos Guestrin.
Comparaison avec d'autres approches
La DRSA est souvent comparée aux ensembles approximatifs classiques, aux méthodes de Decision Trees et aux approches statistiques comme la régression logistique. Contrairement aux ensembles approximatifs classiques, la DRSA gère explicitement l'ordre et la monotonie, ce qui la rend plus adaptée aux problèmes basés sur les préférences. Par rapport aux arbres de décision, qui partitionnent l'espace des caractéristiques à l'aide de divisions alignées sur les axes, la DRSA génère des règles basées sur des cônes de dominance, qui peuvent capturer des interactions plus complexes entre les critères. Cependant, les arbres de décision sont généralement plus évolutifs pour de très grands ensembles de données, tandis que la complexité O(n^2) de la DRSA peut être un goulot d'étranglement. En revanche, par rapport à la régression logistique, qui suppose une relation linéaire entre les prédicteurs et les résultats, la DRSA est non paramétrique et ne nécessite pas d'hypothèses distributionnelles, ce qui la rend plus robuste aux valeurs aberrantes et aux motifs non linéaires.
Une autre méthodologie connexe est le processus de hiérarchie analytique (AHP), qui repose sur des comparaisons par paires effectuées par des experts, tandis que la DRSA est purement basée sur les données. La DRSA partage également des similitudes avec les méthodes de surclassement en analyse décisionnelle multicritère, mais elle ne nécessite pas la spécification de seuils ou de poids, souvent difficiles à obtenir. Cela rend la DRSA particulièrement attrayante pour les applications où les données sont abondantes mais les connaissances expertes limitées, comme dans les systèmes de support décisionnel automatisés intégrés à des plateformes de cloud-computing telles que Amazon Web Services ou Microsoft Azure.
Limites et orientations futures
Malgré ses forces, la DRSA présente des limites. L'hypothèse de monotonie peut ne pas tenir dans toutes les données réelles, et la variante à cohérence variable nécessite que l'utilisateur définisse un seuil de cohérence, ce qui peut être subjectif. La complexité computationnelle de la DRSA limite son évolutivité à de très grands ensembles de données, bien que des implémentations parallèles sur des clusters de GPU (in AI) ou en utilisant du matériel AWS Trainium soient explorées. De plus, les règles de la DRSA peuvent devenir nombreuses et redondantes, nécessitant un post-traitement pour simplifier l'ensemble de règles. Les orientations futures de la recherche incluent l'intégration de la DRSA avec des modèles de Deep learning pour traiter des données non structurées, telles que des images ou du texte, et le développement d'algorithmes d'apprentissage en ligne qui mettent à jour les règles de manière incrémentale à mesure que de nouvelles données arrivent. L'approche est également étendue pour gérer la classification multi-étiquettes et pour incorporer la quantification de l'incertitude, ce qui est crucial pour les décisions à enjeux élevés dans les soins de santé et la finance.
En résumé, l'approche des ensembles approximatifs basée sur la dominance fournit un cadre robuste et interprétable pour analyser des données ordonnées, comblant le fossé entre les ensembles approximatifs classiques et l'analyse décisionnelle multicritère. Sa capacité à générer des règles lisibles par l'humain à partir de données en fait un outil précieux dans le paysage plus large de l'Artificial intelligence et du Machine learning, en particulier pour les applications qui exigent transparence et responsabilité.