Sorelle Friedler ist eine Informatikerin und Professorin am Haverford College, wo sie Forschung zu algorithmischer Fairness und Transparenz im maschinellen Lernen leitet. Sie ist bekannt für ihre Beiträge zur Definition und Operationalisierung von Fairness in automatisierten Entscheidungssystemen, insbesondere durch ihre Rolle als Co-Vorsitzende der ACM FAT*-Konferenz (Fairness, Accountability, and Transparency). Ihre Arbeit verbindet theoretische Informatik mit den sozialen Auswirkungen von künstlicher Intelligenz.
Friedlers Forschung konzentriert sich darauf, wie Verzerrungen in Daten und Algorithmen soziale Ungleichheiten aufrechterhalten oder verschärfen können. Sie hat einflussreiche Arbeiten zu den mathematischen Grundlagen von Fairness veröffentlicht, einschließlich der Unmöglichkeit, mehrere Fairness-Kriterien gleichzeitig zu erfüllen. Ihre Forschung hat politische Diskussionen über den Einsatz von maschinellem Lernen in Einstellungsverfahren, Strafjustiz und Kreditvergabe geprägt.
Akademische Laufbahn
Friedler promovierte in Informatik an der University of Maryland, wo sie computergestützte Geometrie und Topologie studierte. 2012 trat sie der Fakultät des Haverford College bei und wurde Professorin mit Tenure in der Abteilung für Informatik. Am Haverford College gründete sie das Data-Science-Programm und hat zahlreiche Studierende in der Forschung betreut, von denen viele anschließend ein Graduiertenstudium in Informatik aufnahmen.
Ihre frühe Arbeit in der computergestützten Geometrie legte das Fundament für spätere algorithmische Analysen. Sie wandte topologische Datenanalyse an, um hochdimensionale Datenstrukturen zu verstehen, was ihren späteren Fokus auf Fairness-Metriken beeinflusste. Friedler hatte Gastpositionen an Institutionen wie der Carnegie Mellon University inne und hat mit Forschenden aus Wissenschaft und Industrie zusammengearbeitet.
Fairness-Forschung
Friedlers wegweisendes Paper von 2016, „On the (im)possibility of fairness", das sie mit Kollegen verfasste, zeigte, dass kein einzelner Algorithmus alle gängigen Fairness-Definitionen gleichzeitig erfüllen kann. Dieses Ergebnis, bekannt als Unmöglichkeitstheorem, ist zu einem Eckpfeiler der Literatur zu algorithmischer Fairness geworden. Das Paper formalisierte die Unterscheidung zwischen individueller Fairness (ähnliche Individuen werden ähnlich behandelt) und Gruppenfairness (gleiche Ergebnisse über demografische Gruppen hinweg).
Sie entwickelte das Konzept der „konstruktiven Fairness", das die Kluft zwischen unbeobachtbaren wahren Attributen und beobachtbaren Proxy-Variablen in Daten berücksichtigt. Dieses Framework hilft Praktikern zu erkennen, wann Fairness-Interventionen sinnvoll sind. Friedlers Arbeit führte auch praktische Werkzeuge zur Prüfung von Algorithmen ein, einschließlich Methoden zur Erkennung unterschiedlicher Auswirkungen in Klassifikationssystemen.
Ihre Forschung wurde durch Zuschüsse der National Science Foundation und der Mozilla Foundation unterstützt. Sie hat vor Regierungsgremien über die Notwendigkeit von Transparenz in automatisierten Entscheidungssystemen ausgesagt und zivilgesellschaftliche Organisationen zur algorithmischen Rechenschaftspflicht beraten.
FAT*-Konferenzleitung
Friedler war 2018 Co-Vorsitzende der ACM FAT*-Konferenz (heute ACM FAccT), neben anderen führenden Forschenden auf diesem Gebiet. Die Konferenz, die 2014 als Workshop begann, ist zur wichtigsten Plattform für interdisziplinäre Forschung zu Fairness, Rechenschaftspflicht und Transparenz in sozio-technischen Systemen geworden. Unter ihrer Co-Vorsitzenschaft erweiterte die Veranstaltung ihren Umfang um mehr sozialwissenschaftliche und rechtliche Perspektiven.
Sie half, den Peer-Review-Prozess der Konferenz zu etablieren, der Reproduzierbarkeit und ethische Prüfung von Forschung betont. Friedler war auch an der Organisation verwandter Workshops auf großen Neuronalen-Netze- und Deep-Learning-Konferenzen beteiligt, um Fairness-Überlegungen in die Mainstream-KI-Forschungsgemeinschaften zu bringen.
Lehre und Interessenvertretung
Am Haverford College entwickelte Friedler Kurse zu Datenethik und algorithmischer Gerechtigkeit, die philosophische und rechtliche Lektüre in den Informatik-Lehrplan integrierten. Sie hat sich lautstark dafür eingesetzt, Fairness-Analysen in die Standardausbildung zu maschinellem Lernen aufzunehmen, und argumentiert, dass technische Ausbildung ohne sozialen Kontext unvollständig ist.
Sie ist Mitautorin des einflussreichen Artikels „A comparative study of fairness-enhancing interventions in machine learning", der Methoden zur Reduzierung von Verzerrungen empirisch evaluierte. Diese Arbeit bot praktische Anleitungen für Praktiker und wurde in akademischen und industriellen Kontexten vielfach zitiert. Friedler hat Keynote-Vorträge auf zahlreichen Konferenzen gehalten und ist in Medien aufgetreten, um über algorithmische Verzerrungen zu sprechen.
Ausgewählte Veröffentlichungen
Zu ihren bemerkenswerten Veröffentlichungen gehören „On the (im)possibility of fairness" (2016), „A comparative study of fairness-enhancing interventions" (2019) und „Constructive fairness" (2017). Ihre Arbeiten sind in führenden Publikationsorganen erschienen, darunter die ACM Conference on Fairness, Accountability, and Transparency, die International Conference on Machine Learning und das Journal of Machine Learning Research. Sie hat auch für öffentlichkeitsorientierte Medien über die ethischen Implikationen von generativer KI und automatisierten Systemen geschrieben.
Friedlers laufende Arbeit untersucht Fairness in aufkommenden Technologien, einschließlich groß angelegter Transformer-Modelle und deren Einsatz in realen Anwendungen. Sie arbeitet weiterhin mit politischen Entscheidungsträgern und Industriegruppen zusammen, um Standards für algorithmische Prüfungen zu entwickeln.
Anerkennung
Friedler hat mehrere Auszeichnungen für ihre Forschung und Lehre erhalten, darunter den Lindback Foundation Award for Distinguished Teaching des Haverford College. Sie wurde für ihre Beiträge zu Informatik und Gesellschaft zum Distinguished Member der Association for Computing Machinery ernannt. Ihre Arbeit wurde in Berichten der National Academies of Sciences, Engineering, and Medicine zur verantwortungsvollen Entwicklung von KI hervorgehoben.