Cynthia Diane Rudin (* 1976) ist eine US-amerikanische Informatikerin und Statistikerin, die sich auf maschinelles Lernen spezialisiert hat und für ihre Arbeiten zur interpretierbaren künstlichen Intelligenz bekannt ist. Sie leitet das Interpretable Machine Learning Lab an der Duke University, wo sie Professorin für Informatik, Elektrotechnik und Computertechnik, Statistik sowie Biostatistik und Bioinformatik ist. Im Jahr 2022 erhielt sie den Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity der Association for the Advancement of Artificial Intelligence (AAAI) für ihre Arbeiten zur Bedeutung von Transparenz in KI-Systemen in Hochrisikobereichen. Darüber hinaus wurde sie 2024 als Fellow der American Association for the Advancement of Science (AAAS) gewählt, in Anerkennung ihrer Forschung im Bereich des maschinellen Lernens.
Rudins Forschung stellt die vorherrschende Abhängigkeit von Deep Learning- und Neuronalen Netzen in kritischen Anwendungen in Frage. Sie argumentiert, dass interpretierbare Modelle eine vergleichbare Genauigkeit erreichen können und gleichzeitig Transparenz bieten. Ihr Engagement hat politische Diskussionen und akademische Debatten beeinflusst, insbesondere in den Bereichen Strafjustiz und Gesundheitswesen, wo Entscheidungen erhebliche Konsequenzen für Einzelpersonen und die Gesellschaft haben.
Ausbildung und Karriere
Rudin schloss ihr Studium 1999 an der University at Buffalo mit summa cum laude ab, mit einem Doppelabschluss in Mathematischer Physik und Musiktheorie. 2004 promovierte sie an der Princeton University in Angewandter und Computergestützter Mathematik. Ihre Dissertation mit dem Titel „Boosting, Margins, and Dynamics“ wurde von Ingrid Daubechies und Robert Schapire betreut. In ihrer Doktorarbeit bewies sie die Konvergenz von Boosting-Algorithmen und beantwortete damit eine offene Frage, ob AdaBoost die L1-Marge maximiert – ein Maß für den Abstand zwischen der Entscheidungsgrenze und den nächsten Datenpunkten.
Nach einer Postdoc-Stelle an der New York University und einer Tätigkeit als wissenschaftliche Mitarbeiterin an der Columbia University wechselte sie 2009 als Dozentin an die MIT Sloan School of Management. 2016 folgte sie einem Ruf an die Duke University, wo sie mehrere gemeinsame Berufungen in verschiedenen Fachbereichen innehat, was die interdisziplinäre Ausrichtung ihrer Arbeit widerspiegelt.
Rudin war Vorsitzende der Data Mining Section des Institute for Operations Research and the Management Sciences (INFORMS) sowie der Sektion für Statistisches Lernen und Datenwissenschaften der American Statistical Association. Sie war Mitglied des ISAT-Fakultätsbeirats der Defense Advanced Research Projects Agency (DARPA), Ratsmitglied der Association for the Advancement of Artificial Intelligence (AAAI) und Mitglied der Criminal Justice Technology Forecasting Group des Bureau of Justice Assistance. Derzeit ist sie im Vorstand der Special Interest Group on Knowledge Discovery and Data Mining (SIGKDD) der Association for Computing Machinery (ACM) und Mitglied sowohl des Committee on Applied and Theoretical Statistics (CATS) als auch des Committee on Law and Justice (CLAJ) der National Academies of Sciences, Engineering, and Medicine. Sie ist außerdem assoziierte Herausgeberin der Fachzeitschriften Management Science, Harvard Data Science Review und Journal of Quantitative Criminology.
Auszeichnungen und Ehrungen
Rudins Arbeit wurde vielfach ausgezeichnet. 2019 wurde sie zum Fellow der American Statistical Association und des Institute of Mathematical Statistics gewählt, „für ihre Beiträge zu interpretierbaren Algorithmen des maschinellen Lernens, zur Vorhersage in großen medizinischen Datenbanken und zu theoretischen Eigenschaften von Ranking-Algorithmen“. 2022 wurde sie Fellow der Association for the Advancement of Artificial Intelligence und erhielt im selben Jahr ein Guggenheim-Stipendium in Naturwissenschaften.
Sie erhielt 2013 den INFORMS Innovative Applications in Analytics Award für ihre Arbeiten zur Zuverlässigkeit des elektrischen Verteilnetzes, 2016 erneut diesen Preis für interpretierbare Modelle zur Bewertung kognitiver Beeinträchtigungen und 2019 zum dritten Mal für interpretierbare Modelle zur Vorhersage von Anfällen bei kritisch kranken Patienten, die zur Entwicklung des 2HELPS2B-Scores führten, der auf Intensivstationen eingesetzt wird. 2021 war sie Mitgewinnerin des Best Operations Management Paper in Operations Research Award der Manufacturing and Service Operations Management Society von INFORMS und 2018 Gewinnerin des FICO Recognition Award für die Explainable Machine Learning Challenge. 2017 war sie Finalistin für den Daniel H. Wagner Prize for Excellence in Operations Research.
Das Business Insider Magazin nannte sie 2015 eine der zwölf beeindruckendsten Professorinnen und Professoren des MIT. Sie hielt Hauptvorträge auf renommierten Konferenzen, darunter KDD (2014 und 2019), AISTATS, die Nobel Conference (2021) und IJCAI (2025). 2025 wurde sie in die Klasse der ACM Fellows aufgenommen, „für ihre Beiträge und Führungsrolle im Bereich des interpretierbaren maschinellen Lernens und seiner gesellschaftlichen Anwendungen“.
Einsatz für interpretierbares maschinelles Lernen
Rudin ist bekannt für ihre kritische Haltung gegenüber Black-Box-Modellen im Strafjustizsystem und bei anderen Entscheidungen mit hohem Risiko. Sie argumentiert, dass interpretierbare Modelle konstruiert werden können, die ebenso genau sind wie ihre komplexeren Gegenstücke. Ihr einflussreicher Artikel „Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and use Interpretable Models Instead“, der 2019 in Nature Machine Intelligence erschien, legt dar, warum nachträgliche Erklärungen komplexer Modelle unzureichend sind. Sie vertritt die Auffassung, dass Systeme der künstlichen Intelligenz in Bereichen wie Gesundheitswesen, Strafjustiz und Finanzwesen von Natur aus transparent sein sollten, anstatt sich auf externe Erklärungsmechanismen zu verlassen.
Diese Position steht im Gegensatz zum vorherrschenden Trend hin zu generativen KI-Modellen und großen Transformer-Modellen, bei denen oft die Leistungsfähigkeit über die Interpretierbarkeit gestellt wird. Rudins Arbeit hat sich zu einer wichtigen Referenz für die Community der menschenzentrierten künstlichen Intelligenz entwickelt, die darauf abzielt, KI-Systeme an menschlichen Werten und Bedürfnissen auszurichten. Sie hat mehrere Initiativen zur Förderung gesellschaftlich nützlicher Anwendungen des maschinellen Lernens geleitet, darunter die Herausgabe einer Sonderausgabe der Zeitschrift Machine Learning zum Thema „Machine Learning for Science and Society“ und die Organisation des Berichts „Discovery with Data: Leveraging Statistics with Computer Science to Transform Science and Society“ der American Statistical Association.
Anwendungen in der Elektrizitätswirtschaft und öffentlichen Sicherheit
Ab 2007 leitete Rudin ein gemeinsames Projekt mit dem Energieversorger Con Edison zur Nutzung von maschinellem Lernen für die Instandhaltung des sekundären Stromverteilnetzes in New York City. Ziel des Projekts war es, Geräteausfälle vorherzusagen und zu verhindern. Diese Arbeit wurde 2013 mit dem INFORMS Innovative Applications in Analytics Award ausgezeichnet. Sie zeigte, wie interpretierbare Modelle in kritischer Infrastruktur eingesetzt werden können, um Ingenieuren umsetzbare Erkenntnisse zu liefern und gleichzeitig die Zuverlässigkeit zu gewährleisten.
Gemeinsam mit ihrer Studentin Tong Wang und Ermittlern der Polizei von Cambridge, Massachusetts, entwickelte Rudin den Series Finder Algorithmus zur Erkennung von Serienstraftaten. Dieser Algorithmus wurde in das System Patternizr integriert, das von der Polizei von New York (NYPD) zur Identifizierung von Mustern verwendet wird, die auf dieselben Täter hinweisen. Diese Anwendung im Bereich der vorausschauenden Polizeiarbeit unterstrich die Bedeutung von Transparenz in Strafverfolgungswerkzeugen, da Beamte nachvollziehen können mussten, warum bestimmte Muster markiert wurden.
Medizinische Bewertungssysteme
Rudins Arbeit mit ihrem Studenten Berk Ustun führte zur Entwicklung von Bewertungssystemen für medizinische Anwendungen, darunter das Screening auf Schlafapnoe, die Vorhersage von Anfällen bei Patienten auf der Intensivstation, das Screening auf Aufmerksamkeitsdefizit-/Hyperaktivitätsstörung (ADHS) bei Erwachsenen und die Erkennung kognitiver Beeinträchtigungen anhand von Handschriftanalysen mit dem Uhrentest. Diese Bewertungssysteme sind bewusst so einfach gestaltet, dass sie von Klinikern ohne spezielle Software verwendet werden können – sie bestehen oft aus additiven Punktesystemen. Diese Arbeit wurde 2016 und 2019 mit dem INFORMS Innovative Applications in Analytics Award ausgezeichnet und war 2017 Finalistin für den Wagner-Preis.
Der 2HELPS2B-Score, der aus dieser Forschung hervorging, wird auf Intensivstationen zur Vorhersage von Anfällen eingesetzt. Rudins Ansatz in der Medizin betont, dass Modelle nicht nur genau, sondern auch für Ärzte, Pflegekräfte und Patienten verständlich sein müssen, um eine informierte Entscheidungsfindung zu ermöglichen.
Lehre und Betreuung
An der Duke University betreute Rudin zwei Teams von Studierenden, die 2018 den NTIRE Single Image Superresolution Wettbewerb (Track 1, klassische Bicubic-Interpolation) und den PoeTix Literary Turing Wettbewerb gewannen. Diese Erfolge spiegeln ihr Engagement für die Förderung von Studierenden sowohl in technischen als auch in kreativen Anwendungen des maschinellen Lernens wider. Ihr Labor, das Interpretable Machine Learning Lab, bildet Doktoranden und Postdoktoranden in der Entwicklung von Algorithmen aus, die Transparenz und Fairness priorisieren.
Über ihre akademische Tätigkeit hinaus hält Rudin regelmäßig Hauptvorträge auf großen Konferenzen und beteiligt sich an öffentlichen Diskussionen über die Rolle der KI in der Gesellschaft. Ihre Arbeit wurde in Medien wie NPR vorgestellt, wo sie darüber sprach, wie Ärzte sicherstellen können, dass ein selbstlernender Computer die richtige Diagnose stellt – ein Thema, das die praktischen Auswirkungen ihrer Forschung verdeutlicht.
Siehe auch
- Timnit Gebru
- Joy Buolamwini
- Erklärbare künstliche Intelligenz
Referenzen
Die Quellen umfassen Wikipedia (CC BY-SA) und akademische Veröffentlichungen.
Weblinks
- Offizielle Homepage
- Cynthia Rudin bei Google Scholar
- Harris, Richard (April 2019), „How Can Doctors Be Sure A Self-Taught Computer Is Making The Right Diagnosis?“, NPR