Cynthia Diane Rudin (née en 1976) est une informaticienne et statisticienne américaine spécialisée dans le machine-learning et connue pour ses travaux en apprentissage automatique interprétable. Elle est directrice du Laboratoire d'apprentissage automatique interprétable à l'Université Duke, où elle est professeure d'informatique, de génie électrique et informatique, de science statistique, et de biostatistique et bioinformatique. En 2022, elle a remporté le prix Squirrel AI pour l'intelligence artificielle au bénéfice de l'humanité de l'Association pour l'avancement de l'intelligence artificielle (AAAI) pour ses travaux sur l'importance de la transparence des systèmes d'IA dans les domaines à haut risque. De plus, elle a été élue membre de l'Association américaine pour l'avancement des sciences (AAAS) en 2024, en reconnaissance de ses recherches en apprentissage automatique.
Les recherches de Rudin remettent en question la dépendance dominante aux modèles de deep-learning et de réseaux de neurones dans les applications critiques, soutenant que des modèles interprétables peuvent atteindre une précision comparable tout en offrant une transparence. Son plaidoyer a influencé les discussions politiques et la pratique académique, en particulier dans les domaines de la justice pénale et des soins de santé, où les décisions ont des conséquences significatives pour les individus et la société.
Formation et carrière
Rudin a obtenu son diplôme summa cum laude de l'Université de Buffalo avec une double spécialisation en physique mathématique et en théorie musicale en 1999. Elle a complété son doctorat en mathématiques appliquées et computationnelles à l'Université de Princeton en 2004. Sa thèse, intitulée « Boosting, Margins, and Dynamics », a été supervisée par Ingrid Daubechies et Robert Schapire. Dans ses travaux de doctorat, Rudin a prouvé des propriétés de convergence des algorithmes de boosting, répondant à une question bien étudiée de savoir si AdaBoost maximise la marge L1, un type de distance entre une frontière de décision et l'observation de données la plus proche.
Après des postes de chercheuse postdoctorale à l'Université de New York et de chercheuse scientifique associée à l'Université Columbia, elle a pris un poste de professeure à la MIT Sloan School of Management en 2009, puis a déménagé à l'Université Duke en 2016. À Duke, elle occupe des postes conjoints dans plusieurs départements, reflétant la nature interdisciplinaire de ses travaux.
Rudin a présidé la section Data Mining de l'INFORMS et la section Statistical Learning and Data Science de l'Association américaine de statistique. Elle a siégé au comité consultatif de la faculté ISAT pour la DARPA, a été conseillère pour l'AAAI et membre du Groupe de prospective technologique sur la justice pénale du Bureau of Justice Assistance (BJA CJTFG). Elle siège actuellement au comité exécutif de l'ACM SIGKDD et est membre du Comité de statistiques appliquées et théoriques (CATS) et du Comité sur le droit et la justice (CLAJ) des Académies nationales des sciences, de l'ingénierie et de la médecine. Elle est rédactrice associée pour Management Science, la Harvard Data Science Review et le Journal of Quantitative Criminology.
Prix et distinctions
Les contributions de Rudin ont valu de nombreuses distinctions. En 2019, elle a été élue membre de l'Association américaine de statistique et de l'Institut de statistique mathématique « pour ses contributions aux algorithmes d'apprentissage automatique interprétables, à la prédiction dans les bases de données médicales à grande échelle et aux propriétés théoriques des algorithmes de classement ». Elle a été élue membre de l'Association pour l'avancement de l'intelligence artificielle en 2022 et a reçu la bourse Guggenheim en sciences naturelles la même année.
Elle a reçu le prix 2013 INFORMS Innovative Applications in Analytics pour ses travaux sur la fiabilité des réseaux électriques, le prix 2016 INFORMS Innovative Applications in Analytics pour des travaux sur les modèles d'apprentissage automatique interprétables pour évaluer le déclin cognitif, et le prix 2019 INFORMS Innovative Applications in Analytics pour des travaux sur des modèles d'apprentissage automatique interprétables pour la prédiction de crises chez les patients gravement malades, menant au score 2HELPS2B utilisé dans les unités de soins intensifs. Rudin a été co-lauréate du prix du meilleur article en gestion des opérations du Manufacturing and Service Operations Management de l'INFORMS en recherche opérationnelle en 2021 et a remporté le prix de reconnaissance FICO pour le concours d'apprentissage automatique explicable en 2018. Elle a été finaliste pour le prix Daniel H. Wagner pour l'excellence en recherche opérationnelle en 2017.
Rudin a été désignée par Business Insider comme l'une des 12 professeures les plus impressionnantes du MIT en 2015. Elle a donné des discours liminaires à KDD (2014 et 2019), AISTATS, la conférence Nobel (2021) et IJCAI 2025. Elle a été nommée à la promotion 2025 des membres de l'ACM « pour ses contributions et son leadership en apprentissage automatique interprétable et en applications sociétales ».
Plaidoyer pour l'apprentissage automatique interprétable
Rudin est bien connue pour sa critique des modèles de boîte noire dans le système de justice pénale et pour les décisions à enjeux élevés, soutenant que des modèles interprétables peuvent être construits avec une précision équivalente. Son article influent « Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead », publié dans Nature Machine Intelligence en 2019, expose plusieurs raisons pour lesquelles les explications a posteriori des modèles complexes sont insuffisantes. Elle affirme que les systèmes d'intelligence artificielle utilisés dans des domaines comme la santé, la justice pénale et la finance devraient être intrinsèquement interprétables plutôt que de s'appuyer sur des mécanismes d'explication externes.
Cette perspective contraste avec la tendance dominante dans l'IA générative et les modèles de type transformeur, où la performance prime souvent sur l'interprétabilité. Les travaux de Rudin sont devenus une source influente pour la communauté de l'intelligence artificielle centrée sur l'humain, qui met l'accent sur l'alignement des systèmes d'IA avec les besoins et les valeurs humains. Elle a mené plusieurs initiatives pour promouvoir les applications de l'apprentissage automatique au bénéfice de la société, notamment en éditant le numéro spécial sur l'apprentissage automatique pour la science et la société dans la revue Machine Learning et en contribuant au rapport « Discovery with Data: Leveraging Statistics with Computer Science to Transform Science and Society » de l'Association américaine de statistique.
Applications dans les réseaux électriques
À partir de 2007, Rudin a été la chercheuse principale d'un projet conjoint entre l'Université Columbia et Con Edison pour utiliser l'apprentissage automatique afin de maintenir le réseau de distribution électrique secondaire de New York. Ce projet, visant à prédire et prévenir les pannes d'équipement, a reçu le prix INFORMS Innovative Applications in Analytics 2013. Les travaux ont démontré comment des modèles interprétables pouvaient être appliqués aux infrastructures critiques, offrant une transparence tout en maintenant la fiabilité.
Systèmes de notation médicale
Les travaux de Rudin sur les systèmes de notation avec l'ancien étudiant Berk Ustun ont été utilisés pour développer des systèmes de notation médicale pour le dépistage de l'apnée du sommeil, le dépistage du TDAH chez les adultes et la détection du déclin cognitif via le test du dessin de l'horloge. Ces systèmes sont conçus pour être suffisamment simples pour être utilisés par les cliniciens sans logiciel spécialisé, prenant souvent la forme d'outils à base de points additifs, et ont été intégrés dans des contextes cliniques réels.
Plaidoyer pour un apprentissage automatique interprétable
Rudin est bien connue pour sa critique des modèles de boîte noire dans le système de justice pénale et pour les décisions à enjeux élevés, soutenant que des modèles interprétables peuvent être construits avec une précision équivalente. Son article influent « Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and use Interpretable Models Instead », publié dans Nature Machine Intelligence en 2019, présente plusieurs raisons pour lesquelles les explications a posteriori des modèles complexes sont insuffisantes. Elle soutient que les systèmes d'intelligence artificielle utilisés dans les domaines de la santé, de la justice pénale et de la finance devraient être intrinsèquement transparents plutôt que de s'appuyer sur des mécanismes d'explication externes.
Cette perspective contraste avec la tendance dominante dans l'IA générative et les transformeurs à grande échelle, où la performance prime souvent sur l'interprétabilité. Les travaux de Rudin sont devenus une référence influente pour la communauté de l'intelligence artificielle centrée sur l'humain, qui met l'accent sur l'alignement des systèmes d'IA avec les valeurs et les besoins humains. Elle a mené plusieurs efforts pour promouvoir les applications de l'apprentissage automatique au bien sociétal, notamment en éditant le numéro spécial sur l'apprentissage automatique pour la science et la société dans la revue Machine Learning et en contribuant au rapport de l'Association américaine de statistique « Discovery with Data: Leveraging Statistics with Computer Science to Transform Science and Society ».
Applications dans les réseaux électriques et la sécurité publique
À partir de 2007, Rudin a été la chercheuse principale d'un projet collaboratif entre l'Université Columbia et Con Edison pour utiliser l'apprentissage automatique afin de maintenir le réseau de distribution électrique secondaire de New York. Ce projet, visant à prédire et prévenir les pannes d'équipement, a reçu le prix 2013 INFORMS Innovative Applications in Analytics Award. Les travaux ont montré comment des modèles interprétables pouvaient être appliqués à des infrastructures critiques, offrant une transparence utile aux ingénieurs tout en maintenant la fiabilité.
Avec l'étudiant Tong Wang et la police de Cambridge, MA, Rudin a développé l'algorithme Series Finder pour la détection de séries de crimes. Series Finder a été intégré dans l'algorithme Patternizr utilisé par le NYPD pour détecter les schémas de crimes commis par les mêmes individus. Cette application dans le domaine de l'application de la loi a souligné l'importance de la transparence dans les outils prédictifs utilisés par les forces de l'ordre, car les enquêteurs devaient comprendre pourquoi certains schémas étaient signalés.
Systèmes de notation médicale
Les travaux de Rudin sur les systèmes de notation avec l'ancien étudiant Berk Ustun ont conduit au développement de systèmes de notation pour le dépistage de l'apnée du sommeil, le dépistage du TDAH chez les adultes et la détection du déclin cognitif via le test de dessin de l'horloge. Ces systèmes, conçus pour être simples à utiliser par les cliniciens sans nécessiter de logiciel spécialisé, sont souvent basés sur des points additifs. Le score 2HELPS2B, développé pour prédire les crises chez les patients en unité de soins intensifs, est utilisé dans la pratique clinique, et le système de dépistage de l'apnée du sommeil a été intégré dans les soins de routine.
Enseignement et mentorat étudiant
À Duke, Rudin a encadré des équipes d'étudiants de premier cycle qui ont remporté le concours de super-résolution d'images (Track 1) de 2018 et le concours PoeTix de 2018. Son laboratoire, le Laboratoire d'apprentissage automatique interprétable, forme des étudiants à concevoir des algorithmes qui privilégient la transparence et l'explicabilité. Rudin a également encadré de nombreux étudiants diplômés qui ont poursuivi des carrières dans le milieu universitaire et l'industrie.
Voir aussi
- Apprentissage automatique interprétable
- Explicabilité de l'intelligence artificielle
- Analyse prédictive dans le système de justice pénale
Références
Les sources incluent Wikipédia (CC BY-SA) et des publications académiques et médiatiques associées à Cynthia Rudin.
Liens externes
- Page de laboratoire de l'Université Duke
- Publications de Cynthia Rudin indexées par Google Scholar
- Intervention de Cynthia Rudin à la conférence Nobel 2021 sur l'IA et la société