Sorelle Friedler est une informaticienne et professeure au Haverford College, où elle dirige des recherches sur l'équité algorithmique et la transparence dans l'apprentissage automatique. Elle est reconnue pour ses contributions à la définition et à l'opérationnalisation de l'équité dans les systèmes de prise de décision automatisée, notamment en tant que coprésidente de la conférence ACM FAT* (Fairness, Accountability, and Transparency). Son travail fait le pont entre l'informatique théorique et les implications sociales de l'intelligence artificielle.
Les recherches de Friedler se concentrent sur la manière dont les biais dans les données et les algorithmes peuvent perpétuer ou exacerber les inégalités sociales. Elle a publié des articles influents sur les fondements mathématiques de l'équité, y compris l'impossibilité de satisfaire simultanément plusieurs critères d'équité. Ses travaux ont façonné les discussions politiques autour de l'utilisation de l'apprentissage automatique dans l'embauche, la justice pénale et le crédit.
Carrière académique
Friedler a obtenu son doctorat en informatique à l'Université du Maryland, où elle a étudié la géométrie computationnelle et la topologie. Elle a rejoint le corps professoral du Haverford College en 2012, devenant professeure titulaire au département d'informatique. À Haverford, elle a fondé le programme de science des données et a encadré de nombreux étudiants de premier cycle, dont beaucoup ont poursuivi des études supérieures en informatique.
Ses premiers travaux en géométrie computationnelle ont posé les bases de ses analyses algorithmiques ultérieures. Elle a appliqué l'analyse topologique des données pour comprendre les structures de données de haute dimension, ce qui a éclairé son focus ultérieur sur les métriques d'équité. Friedler a occupé des postes de visite dans des institutions telles que Carnegie Mellon University et a collaboré avec des chercheurs du monde académique et de l'industrie.
Recherche sur l'équité
L'article fondateur de Friedler de 2016, « On the (im)possibility of fairness », coécrit avec des collègues, a démontré qu'aucun algorithme unique ne peut satisfaire simultanément toutes les définitions courantes de l'équité. Ce résultat, connu sous le nom de théorème d'impossibilité, est devenu une pierre angulaire de la littérature sur l'équité algorithmique. L'article a formalisé les distinctions entre l'équité individuelle (des individus similaires traités de manière similaire) et l'équité de groupe (des résultats égaux entre les groupes démographiques).
Elle a développé le concept d'« équité constructive », qui prend en compte l'écart entre les attributs réels non observables et les proxies observables dans les données. Ce cadre aide les praticiens à identifier quand les interventions d'équité sont significatives. Les travaux de Friedler ont également introduit des outils pratiques pour auditer les algorithmes, y compris des méthodes pour détecter l'impact disparate dans les systèmes de classification.
Ses recherches ont été soutenues par des subventions de la National Science Foundation et de la Fondation Mozilla. Elle a témoigné devant des organismes gouvernementaux sur la nécessité de transparence dans la prise de décision automatisée et a conseillé des organisations de la société civile sur la responsabilité algorithmique.
Direction de la conférence FAT*
Friedler a été coprésidente de la conférence ACM FAT* (maintenant ACM FAccT) en 2018, aux côtés d'autres chercheurs de premier plan dans le domaine. La conférence, qui a commencé comme un atelier en 2014, est devenue le principal lieu de recherche interdisciplinaire sur l'équité, la responsabilité et la transparence dans les systèmes socio-techniques. Sous sa coprésidence, l'événement a élargi sa portée pour inclure davantage de perspectives en sciences sociales et en droit.
Elle a contribué à établir le processus d'évaluation par les pairs de la conférence, qui met l'accent sur la reproductibilité et l'examen éthique de la recherche. Friedler a également participé à l'organisation d'ateliers connexes lors des principales conférences sur les réseaux de neurones et l'apprentissage profond, apportant des considérations d'équité aux communautés de recherche en IA dominantes.
Enseignement et plaidoyer
À Haverford, Friedler a développé des cours sur l'éthique des données et la justice algorithmique, intégrant des lectures philosophiques et juridiques dans le programme d'informatique. Elle a été une défenseure vocale de l'inclusion de l'analyse d'équité dans l'éducation standard en apprentissage automatique, arguant qu'une formation technique sans contexte social est incomplète.
Elle a coécrit l'article influent « A comparative study of fairness-enhancing interventions in machine learning », qui a évalué empiriquement les méthodes de réduction des biais. Ce travail a fourni des conseils pratiques pour les praticiens et a été largement cité dans les milieux académiques et industriels. Friedler a donné des conférences plénières lors de nombreuses conférences et est apparue dans des médias pour discuter des biais algorithmiques.
Publications sélectionnées
Parmi ses publications notables figurent « On the (im)possibility of fairness » (2016), « A comparative study of fairness-enhancing interventions » (2019) et « Constructive fairness » (2017). Ses articles ont été publiés dans des lieux de premier plan, notamment la conférence ACM sur l'équité, la responsabilité et la transparence, la conférence internationale sur l'apprentissage automatique et le Journal of Machine Learning Research. Elle a également écrit pour des publications grand public sur les implications éthiques de l'IA générative et des systèmes automatisés.
Les travaux en cours de Friedler examinent l'équité dans les technologies émergentes, y compris les modèles transformers à grande échelle et leur déploiement dans des applications réelles. Elle continue de collaborer avec des décideurs politiques et des groupes industriels pour développer des normes d'audit algorithmique.
Reconnaissance
Friedler a reçu plusieurs prix pour sa recherche et son enseignement, notamment le prix Lindback Foundation Award for Distinguished Teaching du Haverford College. Elle a été nommée membre distingué de l'Association for Computing Machinery pour ses contributions à l'informatique et à la société. Ses travaux ont été présentés dans des rapports des Académies nationales des sciences, de l'ingénierie et de la médecine sur le développement responsable de l'IA.