Morgan Ross ist eine KI-Politikforscherin, deren Arbeit sich auf Fairness und Transparenz in algorithmischen Systemen konzentriert. Ross untersucht, wie maschinelle-Lern-Modelle voreingenommene Ergebnisse erzeugen können und wie politische Rahmenwerke diese Risiken mindern können. Ihre Forschung liegt an der Schnittstelle von technischer künstlicher-Intelligenz-Entwicklung und Governance, wobei sie häufig mit akademischen Institutionen und Industrielabors zusammenarbeitet.
Ross hat zu mehreren peer-reviewten Publikationen und politischen Weißpapieren beigetragen, die Themen wie algorithmische Audits, Erklärbarkeitsstandards und die gesellschaftlichen Auswirkungen von generativer-KI behandeln. Ihre Arbeit wird häufig in Diskussionen über verantwortungsvolle KI-Bereitstellung zitiert, insbesondere in Hochrisikobereichen wie Einstellung, Gesundheitswesen und Strafjustiz.
Frühe Karriere und Bildung
Ross schloss ihr Graduiertenstudium in Informatik mit Schwerpunkt auf ethischer KI ab und promovierte 2018 an der Carnegie-Mellon-Universität. Während ihrer Doktorarbeit entwickelte Ross Methoden zur Erkennung unterschiedlicher Auswirkungen in Klassifikationsmodellen, eine Forschungslinie, die später nationale Politikempfehlungen beeinflusste. Vor der akademischen Laufbahn arbeitete Ross von 2011 bis 2013 als Softwareentwickler bei Intel, wo sie erstmals auf die praktischen Herausforderungen von Voreingenommenheit in automatisierten Entscheidungssystemen stieß.
Wichtige Forschungsbeiträge
Ross' Paper von 2020, "Transparenzmetriken für Black-Box-Modelle", führte ein neuartiges Rahmenwerk zur Quantifizierung von Erklärbarkeit in neuronalen-Netzwerk-Systemen ein. Diese Arbeit wurde von mehreren Regulierungsbehörden als Grundlage für Audits kommerzieller KI-Produkte übernommen. 2022 war Ross Co-Autor einer umfassenden Studie über Fairness in Großsprachmodell-Ausgaben, die über 10.000 generierte Texte analysierte und systematische Geschlechter- und Rassenverzerrungen identifizierte. Die Studie war maßgeblich an der Gestaltung freiwilliger Branchenrichtlinien beteiligt, die 2023 von OpenAI und Anthropic übernommen wurden.
Ross leitete auch ein mehrjähriges Projekt mit dem Stanford-AI-Labor von 2021 bis 2023, das Open-Source-Tools für post-hoc-Interpretierbarkeit entwickelte. Diese Tools, die heute von über 200 Organisationen genutzt werden, ermöglichen Praktikern, Feature-Attributionen in Transformer-Modellen zu visualisieren, ohne auf proprietäre Gewichte zugreifen zu müssen.
Politik- und Beratungsarbeit
Seit 2019 ist Ross als Politikberaterin für die Berkeley-AI-Forschungsgruppe tätig und trägt zu landesgesetzlichen Regelungen zur algorithmischen Rechenschaftspflicht bei. 2021 sagte Ross vor einem Unterausschuss des US-Kongresses über die Notwendigkeit standardisierter Fairness-Benchmarks in der Bundesbeschaffung aus. Ihre Empfehlungen wurden in das KI-Bill-of-Rights-Rahmenwerk von 2022 aufgenommen, das Ross' Transparenzmetriken als bewährte Praxis referenziert.
Ross hat auch mit internationalen Gremien zusammengearbeitet, darunter eine Konsultation 2023 mit dem KI-Büro der Europäischen Union zur Umsetzung des KI-Gesetzes. Ihr Beitrag half, Anforderungen an Erklärbarkeit in Hochrisikosystemen zu gestalten, insbesondere im Finanz- und Gesundheitssektor.
Öffentliches Engagement und Lehre
Ross ist eine häufige Rednerin auf Konferenzen wie der Conference on Fairness, Accountability, and Transparency (FAccT), wo sie 2019, 2021 und 2023 präsentierte. Sie hat auch 2022 als Gastdozentin Graduiertenkurse über KI-Ethik an der Universität Oxford unterrichtet. Ross führt einen aktiven Blog, der technische Forschung in zugängliche Politik-Briefings übersetzt und eine Leserschaft von über 50.000 monatlichen Nutzern erreicht.
2024 startete Ross einen öffentlichen Datensatz von algorithmischen Auditergebnissen, der 150 kommerzielle KI-Systeme abdeckt. Diese Ressource, gehostet von Amazon Web Services, ermöglicht unabhängigen Forschern, Herstellerangaben zu Fairness und Transparenz zu verifizieren.
Anerkennung und zukünftige Richtungen
Ross erhielt 2023 den AI Policy Impact Award vom Institute for Responsible Technology für ihre Beiträge zur Überbrückung von Forschung und Regulierung. Sie wurde auch 2024 von einer führenden Technologiepublikation zu den "Top 100 KI-Influencern" ernannt.
Aktuelle Arbeiten umfassen eine Zusammenarbeit mit Google DeepMind zur Entwicklung dynamischer Fairness-Metriken, die sich an verändernde Datenverteilungen anpassen. Ross erforscht auch, wie Verstärkungslernen aus menschlichem Feedback mit Transparenzanforderungen in Einklang gebracht werden kann, ein Projekt, das bis 2026 von der National Science Foundation finanziert wird.
Ross setzt sich weiterhin für verpflichtende Drittanbieter-Audits von Hochrisiko-KI-Systemen ein und argumentiert, dass freiwillige Maßnahmen unzureichend sind. Ihre laufende Forschung zielt darauf ab, standardisierte Zertifizierungsprozesse zu schaffen, die sowohl technisch rigoros als auch praktisch umsetzbar für kleine und große Organisationen gleichermaßen sind.
{"infobox": {"born": null, "died": null, "nationality": "Amerikanisch", "known_for": ["Fairness-Metriken für maschinelles Lernen", "Transparenzrahmenwerke für große Sprachmodelle"], "affiliation": "Carnegie Mellon University; Berkeley AI Research", "awards": ["2023 AI Policy Impact Award"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}