Alice Xiang es abogada, estadística y Directora Global de Gobernanza de IA y Científica Principal de Investigación en Sony Group Corporation. Su trabajo se centra en la intersección del derecho, la estadística y la inteligencia artificial, particularmente en cuestiones de equidad, transparencia y rendición de cuentas en los sistemas de IA. En 2026, Nature la nombró una de las diez científicas a seguir, reconociendo sus contribuciones al desarrollo de estándares éticos para los datos de IA. También es conocida por liderar la creación del Fair Human-Centric Image Benchmark (FHIBE), un conjunto de datos de más de 10,000 imágenes recopiladas con atención explícita a la diversidad, la mitigación de sesgos y el consentimiento.
La carrera de Xiang abarca el ámbito académico, la industria y la investigación sin fines de lucro. Antes de unirse a Sony, trabajó en Partnership on AI, donde dirigió la investigación sobre equidad, transparencia y rendición de cuentas. Su formación académica incluye títulos de la Universidad de Harvard, la Universidad de Oxford y la Facultad de Derecho de Yale, lo que le otorga una perspectiva multidisciplinaria que aplica a la gobernanza de tecnologías emergentes. Ha escrito artículos influyentes y columnas de opinión sobre temas como el sesgo de tono de piel, la curación ética de datos y los desafíos legales y técnicos de la equidad algorítmica.
Educación y Primeros Años de Carrera
Xiang obtuvo un Juris Doctor en la Facultad de Derecho de Yale, una maestría en economía del desarrollo en la Universidad de Oxford, y tanto una licenciatura en economía como una maestría en estadística en la Universidad de Harvard. Esta combinación de formación legal y cuantitativa es central en su enfoque de la ética de la IA, permitiéndole tender un puente entre el desarrollo técnico de modelos y los marcos regulatorios.
Al inicio de su carrera, Xiang trabajó en Partnership on AI, una organización sin fines de lucro fundada por importantes empresas tecnológicas, incluyendo OpenAI, Google DeepMind, Apple y Amazon Web Services. En Partnership on AI, ocupó el cargo de jefa de investigación sobre equidad, transparencia y rendición de cuentas, donde lideró proyectos que examinaban cómo hacer que los sistemas de IA sean más equitativos y cómo sus decisiones pueden explicarse a los usuarios. También ocupó un puesto de investigadora visitante en la Universidad de Tsinghua en Pekín, ampliando aún más su perspectiva internacional sobre la gobernanza de la IA.
Liderazgo en Sony
Xiang se unió a Sony Group Corporation como Directora Global de Gobernanza de IA y Científica Principal de Investigación. En este rol, supervisa las estrategias de la empresa para garantizar que sus productos e investigaciones de IA se adhieran a principios éticos. Las iniciativas de IA de Sony abarcan una amplia gama de aplicaciones, desde electrónica de consumo hasta entretenimiento y juegos, y el trabajo de Xiang implica desarrollar marcos de gobernanza que puedan aplicarse en estos diversos ámbitos.
Bajo su liderazgo, Sony ha enfatizado la importancia de la recopilación y curación ética de datos. Xiang ha argumentado que la calidad y la equidad de los sistemas de IA dependen en gran medida de los datos utilizados para entrenarlos, y ha abogado por estándares industriales que prioricen el consentimiento, la diversidad y la protección de la propiedad intelectual. Su trabajo en Sony ha posicionado a la empresa como líder en el desarrollo responsable de la IA, particularmente en el contexto de la IA generativa y los modelos de lenguaje de gran escala.
Fair Human-Centric Image Benchmark (FHIBE)
Una de las contribuciones más significativas de Xiang es el desarrollo del Fair Human-Centric Image Benchmark (FHIBE), un conjunto de datos de más de 10,000 imágenes de seres humanos. El conjunto de datos fue creado con el objetivo explícito de reflejar diversidad, mitigar sesgos, proteger los derechos de propiedad intelectual e incluir el consentimiento de las personas fotografiadas. Esto supone una desviación de muchos conjuntos de datos de imágenes existentes, que a menudo se extraen de internet sin permiso explícito y pueden subrepresentar a ciertos grupos demográficos.
FHIBE se publicó en un artículo en Nature en noviembre de 2025, coescrito con Jerone T. A. Andrews, Rebecca L. Bourke y otros. El conjunto de datos está destinado a servir como punto de referencia para evaluar el rendimiento de los modelos de IA en diferentes grupos demográficos, ayudando a los investigadores a identificar y corregir sesgos en los sistemas de aprendizaje automático. En 2026, FHIBE fue reconocido como una de las World Changing Ideas de Fast Company, destacando su potencial para remodelar cómo se obtienen y utilizan los datos de entrenamiento de la IA.
Investigación sobre Equidad y Transparencia
Xiang ha publicado extensamente sobre los desafíos de garantizar la equidad en la IA. Su trabajo a menudo aborda la tensión entre los enfoques técnicos para la mitigación de sesgos y los contextos legales y sociales en los que operan los sistemas de IA. En su artículo "Reconciling legal and technical approaches to algorithmic bias", publicado en Tennessee Law Review en 2020, exploró cómo los estándares legales contra la discriminación pueden informar el diseño de algoritmos más justos, y viceversa.
Otra contribución notable es su artículo de 2021 "What We Can't Measure, We Can't Understand: Challenges to Demographic Data Procurement in the Pursuit of Fairness", coescrito con McKane Andrus, Elena Spitzer y Jeffrey Brown. El artículo examina las dificultades prácticas de recopilar datos demográficos necesarios para auditar los sistemas de IA en busca de sesgos, incluidos los problemas de privacidad y el riesgo de clasificación errónea. Este trabajo ha sido influyente en la configuración de los debates sobre cómo equilibrar la equidad y la privacidad en la IA.
Xiang también ha investigado el concepto de incertidumbre como una forma de transparencia. En un artículo de 2021 presentado en la conferencia AAAI/ACM sobre IA, Ética y Sociedad, ella y sus colegas argumentaron que los sistemas de IA deberían comunicar su incertidumbre a los usuarios, permitiendo una toma de decisiones más informada. Esta perspectiva desafía la suposición común de que los resultados de la IA siempre deben presentarse con alta confianza.
Daños Éticos de los Generadores de Voz
En 2024, Xiang coescribió un artículo titulado "Not My Voice! A Taxonomy of Ethical and Safety Harms of Speech Generators" con Wiebke (Toussaint) Hutiri y Orestis Papakyriakopoulos. El artículo, presentado en una conferencia organizada por la Association for Computing Machinery, proporciona un marco integral para categorizar los daños que pueden surgir del habla generada por IA. Estos incluyen el robo de identidad, la suplantación y la difusión de desinformación, así como daños menos evidentes como la erosión de la confianza en la evidencia de audio.
La taxonomía está destinada a ayudar a los desarrolladores y formuladores de políticas a anticipar y mitigar los riesgos asociados con las tecnologías de generación de voz, que se han vuelto cada vez más sofisticadas con la llegada del aprendizaje profundo y las redes neuronales. El trabajo de Xiang en esta área refleja su preocupación más amplia por las implicaciones sociales de la IA, particularmente a medida que los modelos generativos se vuelven más capaces de producir contenido realista.
Reconocimiento y Premios
Las contribuciones de Xiang han sido ampliamente reconocidas. En 2021, fue incluida en la lista 100 Brilliant Women in AI Ethics de Women in AI Ethics. En 2025, recibió el premio Privacy Papers for Policymakers del Future of Privacy Forum por su ensayo "Mirror, Mirror, on the Wall, Who's the Fairest of Them All?", publicado en la revista Daedalus en 2024. El ensayo examina cómo los sistemas de visión por computadora pueden ver erróneamente a los individuos, particularmente a aquellos de grupos marginados, y aboga por una comprensión más matizada de la equidad que tenga en cuenta tanto la privacidad como la visibilidad.
En 2026, fue nombrada una de las Top 100 Women in AI por AI Magazine, y Nature la incluyó en su lista de diez científicas a seguir. Estos honores reflejan su creciente influencia en el campo de la ética de la IA, donde se la considera un puente entre la investigación técnica y el desarrollo de políticas.
Obras y Publicaciones Seleccionadas
Xiang ha escrito o coescrito numerosos artículos influyentes. Entre sus obras más citadas se encuentra "Explainable machine learning in deployment", publicado en 2020, que examina los desafíos prácticos de implementar técnicas de explicabilidad en sistemas del mundo real. El artículo, coescrito con Umang Bhatt y otros, discute la brecha entre la investigación académica sobre interpretabilidad y las necesidades de los profesionales.
Su historial de publicaciones también incluye trabajo sobre las dimensiones legales de la IA, como "Being 'seen' versus 'mis-seen': Tensions between privacy and fairness in computer vision", publicado en Harvard Journal of Law & Technology en 2022. Este artículo explora cómo las protecciones de privacidad pueden entrar en conflicto con los esfuerzos para garantizar la equidad, particularmente en tecnologías de vigilancia y reconocimiento facial.
Además de los artículos académicos, Xiang ha escrito columnas de opinión para Fortune y la revista Time, donde ha comunicado su investigación sobre el sesgo de tono de piel y la curación ética de datos a un público más amplio. Su capacidad para traducir problemas técnicos complejos a un lenguaje accesible la ha convertido en una comentarista muy solicitada sobre ética de la IA.
Impacto y Legado
El trabajo de Xiang es parte de un movimiento más amplio para hacer que la IA sea más responsable ante las personas a las que afecta. Al centrarse en todo el ciclo de vida de los sistemas de IA - desde la recopilación de datos hasta el despliegue - ha ayudado a cambiar la conversación desde el rendimiento puramente técnico hacia cuestiones de responsabilidad social. Su liderazgo en Sony, combinado con sus contribuciones académicas, la posiciona como una figura clave en el esfuerzo continuo por desarrollar una IA que sea tanto innovadora como ética.
A medida que la IA continúa impregnando todos los aspectos de la sociedad, es probable que los marcos que Xiang ha desarrollado para la curación ética de datos y la evaluación de la equidad sean cada vez más importantes. Su énfasis en el consentimiento y la diversidad en la recopilación de datos, en particular, ofrece un modelo de cómo las empresas pueden construir sistemas de IA que respeten los derechos individuales mientras logran un alto rendimiento. A través de su investigación, defensa y liderazgo, Xiang está ayudando a definir cómo se ve la IA responsable en el siglo XXI.