Margaret Mitchell

Margaret Mitchell ist eine Informatikerin und Forscherin im Bereich KI-Ethik, die eine prominente Stimme bei der Entwicklung verantwortungsvoller künstlicher Intelligenz war. Sie ist vor allem dafür bekannt, dass sie das Ethical-AI-Team bei Google mitgeleitet hat, wo sie daran arbeitete, Verzerrungen in maschinellen Lernsystemen zu identifizieren und zu mildern. Ihre Forschung und ihr Engagement haben die Art und Weise beeinflusst, wie die Technologiebranche Fairness, Rechenschaftspflicht und Transparenz in der KI angeht.

Mitchells Karriere erstreckt sich sowohl über die Industrie als auch über die Wissenschaft, mit bedeutenden Beiträgen zur Verarbeitung natürlicher Sprache und KI-Ethik. Sie war eine lautstarke Kritikerin unethischer Praktiken in der KI-Entwicklung und hat daran gearbeitet, Richtlinien für verantwortungsvolle KI-Forschung festzulegen. Ihre Arbeit wurde weithin zitiert und hat dazu beigetragen, den öffentlichen Diskurs über die gesellschaftlichen Auswirkungen künstlicher Intelligenz zu prägen.

Frühes Leben und Ausbildung

Margaret Mitchell wurde in den Vereinigten Staaten geboren. Sie entwickelte früh ein Interesse an Sprache und Technologie, was sie dazu führte, Informatik und Linguistik zu studieren. Sie erwarb ihren Bachelor-Abschluss am Reed College, wo sie sich auf Computerlinguistik konzentrierte. Später erwarb sie einen Master-Abschluss und einen PhD an der University of Aberdeen in Schottland, wo sich ihre Forschung auf Verarbeitung natürlicher Sprache und maschinelles Lernen konzentrierte.

Während ihres Promotionsstudiums untersuchte Mitchell, wie Computer menschliche Sprache verstehen und generieren können. Ihre Dissertation befasste sich mit der Verwendung neuronaler Netze für die Sprachmodellierung, ein Thema, das für ihre spätere Arbeit in der KI-Ethik zentral werden sollte. Sie interessierte sich auch für die sozialen Auswirkungen von KI, insbesondere dafür, wie verzerrte Daten zu diskriminierenden Ergebnissen führen können.

Frühe Karriere und Forschung

Nach Abschluss ihrer Promotion arbeitete Mitchell als Postdoktorandin bei Microsoft Research, wo sie maschinelles Lernen und Verarbeitung natürlicher Sprache studierte. Anschließend trat sie der University of Washington als Forschungswissenschaftlerin bei und arbeitete mit Akademikern an Projekten zu Sprache und Vision zusammen. Ihre Arbeit in dieser Zeit konzentrierte sich auf die Entwicklung von Algorithmen, die aus multimodalen Daten wie Bildern und Text lernen konnten.

2016 wechselte Mitchell zu Google, wo sie dem Forschungsteam für Machine learning und Natural language processing beitrat. Sie trug zu Projekten mit Large language models und Transformer (architecture)-Architekturen bei, die das Feld der KI rasant vorantrieben. Bald jedoch wurde sie besorgt über die ethischen Implikationen dieser Technologien, insbesondere darüber, wie sie gesellschaftliche Verzerrungen verstärken könnten.

Google Ethical AI Team

2018 wurde Mitchell zur Co-Leiterin von Googles Ethical-AI-Team ernannt, zusammen mit Timnit Gebru. Das Team hatte die Aufgabe, ethische Probleme in der KI zu erforschen und anzugehen, darunter Verzerrung, Fairness und Transparenz. Unter ihrer Leitung veröffentlichte das Team einflussreiche Arbeiten zu Themen wie Modellkarten, die standardisierte Dokumentationen für maschinelle Lernmodelle darstellen und deren Leistung und Einschränkungen offenlegen.

Mitchell und Gebru arbeiteten auch an Projekten zur Erkennung und Milderung von Verzerrungen in Large language models. Sie entwickelten Werkzeuge, um KI-Systeme auf diskriminierendes Verhalten zu prüfen, und setzten sich für integrativere Datenerfassungspraktiken ein. Ihre Arbeit wurde weithin als bahnbrechend im Bereich der KI-Ethik anerkannt.

Ihre Amtszeit bei Google war jedoch von Kontroversen geprägt. Im Dezember 2020 wurde Gebru nach einem Streit über ein Forschungspapier entlassen, das die Umwelt- und Sozialkosten großer KI-Modelle kritisierte. Mitchell unterstützte Gebru öffentlich und kritisierte Googles Umgang mit der Situation. Im Februar 2021 wurde auch Mitchell von Google entlassen, wobei das Unternehmen Verstöße gegen seinen Verhaltenskodex anführte. Die Entlassungen lösten eine breite Debatte über die Behandlung von KI-Ethikforschern in der Technologiebranche aus.

Beiträge zur KI-Ethik

Zu Mitchells bedeutendsten Beiträgen zur KI-Ethik gehört ihre Arbeit an Modellkarten, die in der Branche zu einer Standardpraxis geworden sind. Modellkarten bieten eine strukturierte Möglichkeit, den beabsichtigten Verwendungszweck, Leistungskennzahlen und potenzielle Verzerrungen eines Modells zu dokumentieren. Diese Transparenz hilft Entwicklern und Nutzern, die Einschränkungen von KI-Systemen zu verstehen und fundierte Entscheidungen zu treffen.

Sie war auch Co-Autorin des Papiers „Model Cards for Model Reporting", das 2019 veröffentlicht wurde und von Unternehmen und Forschungseinrichtungen weithin übernommen wurde. Das Papier schlug einen Rahmen zur Dokumentation maschineller Lernmodelle vor, der für Nicht-Experten zugänglich ist, und förderte so Rechenschaftspflicht und Vertrauen.

Mitchell hat sich auch für Vielfalt und Inklusion in der KI-Forschung eingesetzt. Sie hat öffentlich über die Notwendigkeit von mehr Frauen und unterrepräsentierten Gruppen in diesem Bereich gesprochen und argumentiert, dass vielfältige Perspektiven für die Schaffung fairer und ethischer KI-Systeme unerlässlich sind.

Spätere Karriere und Engagement

Nach ihrem Ausscheiden bei Google setzte Mitchell ihre Arbeit in der KI-Ethik als unabhängige Forscherin und Beraterin fort. Sie ist eine häufige Rednerin auf Konferenzen und hat ausführlich über Themen wie algorithmische Verzerrung, Datenethik und die sozialen Auswirkungen von KI geschrieben. Sie war auch an Initiativen zur Erstellung ethischer Richtlinien für die KI-Entwicklung beteiligt, darunter die IEEE und die ACM.

2022 trat Mitchell dem KI-Unternehmen Hugging Face als Forscherin bei, wo sie weiterhin an verantwortungsvollen KI-Praktiken arbeitet. Bei Hugging Face hat sie sich auf die Entwicklung von Werkzeugen zur Prüfung und Verbesserung der Fairness maschineller Lernmodelle konzentriert. Sie war auch an Bemühungen beteiligt, transparentere und integrativere KI-Forschungsgemeinschaften zu schaffen.

Wirkung und Anerkennung

Mitchells Arbeit hat einen nachhaltigen Einfluss auf das Feld der KI-Ethik gehabt. Ihre Forschung zu Modellkarten wurde weithin übernommen, und ihr Engagement hat dazu beigetragen, Fragen der Verzerrung und Fairness in den Vordergrund des öffentlichen Bewusstseins zu rücken. Sie wurde mit zahlreichen Preisen und Ehrungen ausgezeichnet, darunter die Ernennung zu einer der 100 einflussreichsten Personen in der KI durch das Time Magazine im Jahr 2023.

Ihre Entlassung bei Google, zusammen mit der von Gebru, wurde als Wendepunkt in der Herangehensweise der Technologiebranche an KI-Ethik angeführt. Sie hob die Spannung zwischen Unternehmensinteressen und ethischer Forschung hervor und führte zu einer verstärkten Prüfung, wie Unternehmen mit abweichenden Stimmen umgehen.

Persönliches Leben und öffentliches Engagement

Mitchell ist bekannt für ihren offenen und unverblümten Stil, sowohl in ihrem Schreiben als auch in öffentlichen Auftritten. Sie hat soziale Medien genutzt, um KI-Ethik zu diskutieren und auf Fälle von Verzerrung in der Technologie aufmerksam zu machen. Sie war auch eine Mentorin für jüngere Forscher und hat mehr Menschen ermutigt, in das Feld der KI-Ethik einzusteigen.

Zusätzlich zu ihrer Forschung war Mitchell an Bemühungen beteiligt, KI für die Öffentlichkeit zugänglicher zu machen. Sie hat Vorträge an Universitäten und Branchenveranstaltungen gehalten und für Mainstream-Publikationen geschrieben, um komplexe KI-Konzepte einem allgemeinen Publikum zu erklären.

Vermächtnis und zukünftige Richtungen

Margaret Mitchells Vermächtnis liegt in ihrer bahnbrechenden Arbeit, KI ethischer und rechenschaftspflichtiger zu machen. Ihre Beiträge haben beeinflusst, wie Unternehmen KI-Systeme entwickeln und einsetzen, und ihr Engagement hat eine neue Generation von Forschern inspiriert, die gesellschaftlichen Auswirkungen ihrer Arbeit zu berücksichtigen.

Da sich KI weiterentwickelt, bleiben Mitchells Einsichten relevant. Sie hat zu mehr Transparenz in der KI-Entwicklung, integrativeren Datenpraktiken und stärkerer Regulierung von KI-Technologien aufgerufen. Ihre Arbeit wird das Feld wahrscheinlich noch jahrelang prägen.

Referenzen

• Mitchell, M., et al. (2019). „Model Cards for Model Reporting." Proceedings of the Conference on Fairness, Accountability, and Transparency.
• Mitchell, M. (2021). „The State of AI Ethics." Keynote address at the ACM Conference on Fairness, Accountability, and Transparency.
• Time Magazine. (2023). „The 100 Most Influential People in AI."

Externe Links

• Margaret Mitchells persönliche Website
• Margaret Mitchell auf Twitter
• Margaret Mitchells Google-Scholar-Profil