Alice Xiang ist eine Juristin, Statistikerin und Global Head of AI Governance sowie Lead Research Scientist bei der Sony Group Corporation. Ihre Arbeit konzentriert sich auf die Schnittstelle von Recht, Statistik und künstlicher Intelligenz, insbesondere auf Fragen der Fairness, Transparenz und Rechenschaftspflicht in KI-Systemen. Im Jahr 2026 nannte Nature sie eine von zehn Wissenschaftlern, die es zu beobachten gilt, und würdigte damit ihre Beiträge zur Entwicklung ethischer Benchmarks für KI-Daten. Bekannt ist sie auch für die Leitung der Erstellung des Fair Human-Centric Image Benchmark (FHIBE), eines Datensatzes mit über 10.000 Bildern, die unter ausdrücklicher Berücksichtigung von Diversität, Bias-Minderung und Einwilligung gesammelt wurden.
Xiangs Karriere umfasst Wissenschaft, Industrie und gemeinnützige Forschung. Bevor sie zu Sony kam, arbeitete sie bei der Partnership on AI, wo sie die Forschung zu Fairness, Transparenz und Rechenschaftspflicht leitete. Ihre akademische Ausbildung umfasst Abschlüsse der Harvard University, der University of Oxford und der Yale Law School, was ihr eine multidisziplinäre Perspektive verleiht, die sie auf die Governance neuer Technologien anwendet. Sie hat einflussreiche Artikel und Meinungsbeiträge zu Themen wie Hautton-Bias, ethischer Datenkuration und den rechtlichen und technischen Herausforderungen algorithmischer Fairness verfasst.
Bildung und frühe Karriere
Xiang erwarb einen Juris Doctor an der Yale Law School, einen Master-Abschluss in Entwicklungswirtschaft an der University of Oxford sowie sowohl einen Bachelor-Abschluss in Wirtschaftswissenschaften als auch einen Master-Abschluss in Statistik an der Harvard University. Diese Kombination aus juristischer und quantitativer Ausbildung ist zentral für ihren Ansatz zur KI-Ethik, da sie es ihr ermöglicht, die Kluft zwischen technischer Modellentwicklung und regulatorischen Rahmenwerken zu überbrücken.
Zu Beginn ihrer Karriere arbeitete Xiang bei der Partnership on AI, einer gemeinnützigen Organisation, die von großen Technologieunternehmen wie OpenAI, Google DeepMind, Apple und Amazon Web Services gegründet wurde. Bei der Partnership on AI war sie als Leiterin der Forschung zu Fairness, Transparenz und Rechenschaftspflicht tätig, wo sie Projekte leitete, die untersuchten, wie KI-Systeme gerechter gestaltet und ihre Entscheidungen den Nutzern erklärt werden können. Sie hatte außerdem eine Gastwissenschaftlerposition an der Tsinghua-Universität in Peking inne, was ihre internationale Perspektive auf KI-Governance weiter verbreiterte.
Führungsrolle bei Sony
Xiang trat der Sony Group Corporation als Global Head of AI Governance und Lead Research Scientist bei. In dieser Rolle überwacht sie die Strategien des Unternehmens, um sicherzustellen, dass seine KI-Produkte und -Forschung ethischen Prinzipien entsprechen. Sonys KI-Initiativen umfassen ein breites Spektrum an Anwendungen, von Unterhaltungselektronik bis hin zu Unterhaltung und Gaming, und Xiangs Arbeit beinhaltet die Entwicklung von Governance-Rahmenwerken, die auf diese vielfältigen Bereiche angewendet werden können.
Unter ihrer Führung hat Sony die Bedeutung ethischer Datenerfassung und -kuration betont. Xiang hat argumentiert, dass Qualität und Fairness von KI-Systemen stark von den Daten abhängen, die zu ihrem Training verwendet werden, und sie hat sich für branchenweite Standards eingesetzt, die Einwilligung, Diversität und Schutz geistigen Eigentums priorisieren. Ihre Arbeit bei Sony hat das Unternehmen als Vorreiter in der verantwortungsvollen KI-Entwicklung positioniert, insbesondere im Kontext von generativer KI und großen Sprachmodellen.
Fair Human-Centric Image Benchmark (FHIBE)
Einer der bedeutendsten Beiträge von Xiang ist die Entwicklung des Fair Human-Centric Image Benchmark (FHIBE), eines Datensatzes mit mehr als 10.000 Bildern von Menschen. Der Datensatz wurde mit dem ausdrücklichen Ziel erstellt, Diversität widerzuspiegeln, Bias zu mindern, Rechte an geistigem Eigentum zu schützen und die Einwilligung der fotografierten Personen einzubeziehen. Dies unterscheidet sich von vielen bestehenden Bilddatensätzen, die oft ohne ausdrückliche Erlaubnis aus dem Internet gesammelt werden und bestimmte demografische Gruppen unterrepräsentieren können.
FHIBE wurde in einem Artikel in Nature im November 2025 veröffentlicht, gemeinsam verfasst mit Jerone T. A. Andrews, Rebecca L. Bourke und anderen. Der Datensatz soll als Benchmark für die Bewertung der Leistung von KI-Modellen über verschiedene demografische Gruppen hinweg dienen und Forschern helfen, Bias in maschinellen Lernsystemen zu identifizieren und zu korrigieren. Im Jahr 2026 wurde FHIBE als eine von Fast Companys World Changing Ideas ausgezeichnet, was sein Potenzial hervorhebt, die Art und Weise zu verändern, wie KI-Trainingsdaten beschafft und verwendet werden.
Forschung zu Fairness und Transparenz
Xiang hat umfassend zu den Herausforderungen der Gewährleistung von Fairness in KI publiziert. Ihre Arbeit befasst sich oft mit der Spannung zwischen technischen Ansätzen zur Bias-Minderung und den rechtlichen und sozialen Kontexten, in denen KI-Systeme operieren. In ihrem Artikel „Reconciling legal and technical approaches to algorithmic bias", veröffentlicht in der Tennessee Law Review im Jahr 2020, untersuchte sie, wie rechtliche Standards für Diskriminierung das Design fairerer Algorithmen informieren können und umgekehrt.
Ein weiterer bemerkenswerter Beitrag ist ihr Artikel aus dem Jahr 2021 mit dem Titel „What We Can't Measure, We Can't Understand: Challenges to Demographic Data Procurement in the Pursuit of Fairness", den sie gemeinsam mit McKane Andrus, Elena Spitzer und Jeffrey Brown verfasste. Der Artikel untersucht die praktischen Schwierigkeiten bei der Erhebung demografischer Daten, die für die Prüfung von KI-Systemen auf Bias erforderlich sind, einschließlich Datenschutzbedenken und des Risikos von Fehlklassifikationen. Diese Arbeit hat die Debatten darüber, wie Fairness und Datenschutz in der KI in Einklang gebracht werden können, maßgeblich geprägt.
Xiang hat auch das Konzept der Unsicherheit als eine Form der Transparenz untersucht. In einem Artikel aus dem Jahr 2021, der auf der AAAI/ACM-Konferenz zu KI, Ethik und Gesellschaft vorgestellt wurde, argumentierte sie gemeinsam mit ihren Kollegen, dass KI-Systeme ihre Unsicherheit den Nutzern kommunizieren sollten, um eine fundiertere Entscheidungsfindung zu ermöglichen. Diese Perspektive stellt die gängige Annahme in Frage, dass KI-Ausgaben immer mit hoher Konfidenz präsentiert werden sollten.
Ethische Schäden von Sprachgeneratoren
Im Jahr 2024 verfasste Xiang gemeinsam mit Wiebke (Toussaint) Hutiri und Orestis Papakyriakopoulos einen Artikel mit dem Titel „Not My Voice! A Taxonomy of Ethical and Safety Harms of Speech Generators". Der Artikel, der auf einer von der Association for Computing Machinery organisierten Konferenz vorgestellt wurde, bietet einen umfassenden Rahmen zur Kategorisierung der Schäden, die durch KI-generierte Sprache entstehen können. Dazu gehören Identitätsdiebstahl, Identitätsmissbrauch und die Verbreitung von Fehlinformationen sowie weniger offensichtliche Schäden wie die Erosion des Vertrauens in Audio-Beweise.
Die Taxonomie soll Entwicklern und politischen Entscheidungsträgern helfen, die mit Sprachgenerierungstechnologien verbundenen Risiken vorherzusehen und zu mindern, die mit dem Aufkommen von Deep Learning und neuronalen Netzen zunehmend ausgefeilter geworden sind. Xiangs Arbeit in diesem Bereich spiegelt ihr breiteres Anliegen hinsichtlich der gesellschaftlichen Auswirkungen von KI wider, insbesondere da generative Modelle immer besser in der Lage sind, realistische Inhalte zu produzieren.
Anerkennung und Auszeichnungen
Xiangs Beiträge wurden weithin anerkannt. Im Jahr 2021 wurde sie in die Liste der 100 Brilliant Women in AI Ethics von Women in AI Ethics aufgenommen. Im Jahr 2025 erhielt sie den Privacy Papers for Policymakers Award des Future of Privacy Forum für ihren Aufsatz „Mirror, Mirror, on the Wall, Who's the Fairest of Them All?", der 2024 in der Zeitschrift Daedalus veröffentlicht wurde. Der Aufsatz untersucht, wie Computer-Vision-Systeme Individuen, insbesondere aus marginalisierten Gruppen, falsch wahrnehmen können, und plädiert für ein nuancierteres Verständnis von Fairness, das sowohl Datenschutz als auch Sichtbarkeit berücksichtigt.
Im Jahr 2026 wurde sie von AI Magazine zu den Top 100 Women in AI ernannt, und Nature nahm sie in ihre Liste der zehn Wissenschaftler auf, die es zu beobachten gilt. Diese Ehrungen spiegeln ihren wachsenden Einfluss im Bereich der KI-Ethik wider, wo sie als Brücke zwischen technischer Forschung und politischer Entwicklung gesehen wird.
Ausgewählte Werke und Veröffentlichungen
Xiang hat zahlreiche einflussreiche Artikel verfasst oder mitverfasst. Zu ihren am häufigsten zitierten Werken gehört „Explainable machine learning in deployment", veröffentlicht im Jahr 2020, das die praktischen Herausforderungen der Implementierung von Erklärbarkeitstechniken in realen Systemen untersucht. Der Artikel, der gemeinsam mit Umang Bhatt und anderen verfasst wurde, diskutiert die Kluft zwischen akademischer Forschung zur Interpretierbarkeit und den Bedürfnissen von Praktikern.
Ihre Publikationsliste umfasst auch Arbeiten zu den rechtlichen Dimensionen von KI, wie „Being 'seen' versus 'mis-seen': Tensions between privacy and fairness in computer vision", veröffentlicht im Harvard Journal of Law & Technology im Jahr 2022. Dieser Artikel untersucht, wie Datenschutzmaßnahmen mit Bemühungen zur Gewährleistung von Fairness kollidieren können, insbesondere bei Überwachungs- und Gesichtserkennungstechnologien.
Zusätzlich zu akademischen Artikeln hat Xiang Meinungsbeiträge für Fortune und das Time Magazine verfasst, in denen sie ihre Forschung zu Hautton-Bias und ethischer Datenkuration einem breiteren Publikum vermittelt hat. Ihre Fähigkeit, komplexe technische Themen in verständliche Sprache zu übersetzen, hat sie zu einer gefragten Kommentatorin für KI-Ethik gemacht.
Wirkung und Vermächtnis
Xiangs Arbeit ist Teil einer breiteren Bewegung, KI gegenüber den Menschen, die sie betrifft, rechenschaftspflichtiger zu machen. Indem sie sich auf den gesamten Lebenszyklus von KI-Systemen konzentriert - von der Datenerfassung bis zur Bereitstellung - hat sie dazu beigetragen, das Gespräch von rein technischer Leistung hin zu Fragen sozialer Verantwortung zu verschieben. Ihre Führungsrolle bei Sony, kombiniert mit ihren akademischen Beiträgen, positioniert sie als Schlüsselfigur in den laufenden Bemühungen, KI zu entwickeln, die sowohl innovativ als auch ethisch ist.
Da KI weiterhin jeden Aspekt der Gesellschaft durchdringt, werden die von Xiang entwickelten Rahmenwerke für ethische Datenkuration und Fairness-Bewertung wahrscheinlich zunehmend wichtiger. Ihr Schwerpunkt auf Einwilligung und Diversität bei der Datenerfassung bietet insbesondere ein Modell dafür, wie Unternehmen KI-Systeme aufbauen können, die individuelle Rechte respektieren und gleichzeitig hohe Leistung erzielen. Durch ihre Forschung, Interessenvertretung und Führungsrolle trägt Xiang dazu bei, zu definieren, was verantwortungsvolle KI im 21. Jahrhundert ausmacht.