Alice Xiang é advogada, estatística e chefe global de Governança de IA e pesquisadora líder na Sony Group Corporation. Seu trabalho se concentra na interseção entre direito, estatística e inteligência artificial, especialmente em questões de justiça, transparência e responsabilidade em sistemas de IA. Em 2026, a Nature a nomeou uma das dez cientistas para observar, reconhecendo suas contribuições para o desenvolvimento de padrões éticos para dados de IA. Ela também é conhecida por liderar a criação do Fair Human-Centric Image Benchmark (FHIBE), um conjunto de dados com mais de 10.000 imagens coletadas com atenção explícita à diversidade, mitigação de viés e consentimento.
A carreira de Xiang abrange academia, indústria e pesquisa sem fins lucrativos. Antes de ingressar na Sony, ela trabalhou na Partnership on AI, onde liderou pesquisas sobre justiça, transparência e responsabilidade. Sua formação acadêmica inclui diplomas da Universidade de Harvard, da Universidade de Oxford e da Faculdade de Direito de Yale, o que lhe confere uma perspectiva multidisciplinar que ela aplica à governança de tecnologias emergentes. Ela é autora de artigos e op-eds influentes sobre tópicos como viés de tom de pele, curadoria ética de dados e os desafios legais e técnicos da justiça algorítmica.
Educação e Início de Carreira
Xiang obteve o título de Juris Doctor pela Faculdade de Direito de Yale, um mestrado em economia do desenvolvimento pela Universidade de Oxford e tanto um bacharelado em economia quanto um mestrado em estatística pela Universidade de Harvard. Essa combinação de formação jurídica e quantitativa é central para sua abordagem à ética em IA, permitindo-lhe fazer a ponte entre o desenvolvimento técnico de modelos e as estruturas regulatórias.
No início de sua carreira, Xiang trabalhou na Partnership on AI, uma organização sem fins lucrativos fundada por grandes empresas de tecnologia, incluindo OpenAI, Google DeepMind, Apple e Amazon Web Services. Na Partnership on AI, ela atuou como chefe de pesquisa em justiça, transparência e responsabilidade, onde liderou projetos que examinavam como tornar os sistemas de IA mais equitativos e como explicar suas decisões aos usuários. Ela também ocupou uma posição de pesquisadora visitante na Universidade Tsinghua, em Pequim, ampliando ainda mais sua perspectiva internacional sobre governança de IA.
Liderança na Sony
Xiang ingressou na Sony Group Corporation como chefe global de Governança de IA e pesquisadora líder. Nessa função, ela supervisiona as estratégias da empresa para garantir que seus produtos e pesquisas em IA sigam princípios éticos. As iniciativas de IA da Sony abrangem uma ampla gama de aplicações, desde eletrônicos de consumo até entretenimento e jogos, e o trabalho de Xiang envolve o desenvolvimento de estruturas de governança aplicáveis a esses diversos domínios.
Sob sua liderança, a Sony enfatizou a importância da coleta e curadoria ética de dados. Xiang argumentou que a qualidade e a justiça dos sistemas de IA dependem fortemente dos dados usados para treiná-los, e ela defendeu padrões industriais que priorizem consentimento, diversidade e proteção da propriedade intelectual. Seu trabalho na Sony posicionou a empresa como líder no desenvolvimento responsável de IA, particularmente no contexto de IA generativa e grandes modelos de linguagem.
Fair Human-Centric Image Benchmark (FHIBE)
Uma das contribuições mais significativas de Xiang é o desenvolvimento do Fair Human-Centric Image Benchmark (FHIBE), um conjunto de dados com mais de 10.000 imagens de seres humanos. O conjunto foi criado com o objetivo explícito de refletir diversidade, mitigar viés, proteger direitos de propriedade intelectual e incluir consentimento das pessoas fotografadas. Isso representa uma mudança em relação a muitos conjuntos de dados de imagens existentes, que frequentemente são coletados da internet sem permissão explícita e podem sub-representar certos grupos demográficos.
O FHIBE foi publicado em um artigo na Nature em novembro de 2025, em coautoria com Jerone T. A. Andrews, Rebecca L. Bourke e outros. O conjunto de dados destina-se a servir como referência para avaliar o desempenho de modelos de IA em diferentes grupos demográficos, ajudando pesquisadores a identificar e corrigir viés em sistemas de aprendizado de máquina. Em 2026, o FHIBE foi reconhecido como uma das World Changing Ideas da Fast Company, destacando seu potencial para remodelar como os dados de treinamento de IA são obtidos e usados.
Pesquisa sobre Justiça e Transparência
Xiang publicou extensivamente sobre os desafios de garantir justiça em IA. Seu trabalho frequentemente aborda a tensão entre abordagens técnicas para mitigação de viés e os contextos legais e sociais nos quais os sistemas de IA operam. Em seu artigo "Reconciling legal and technical approaches to algorithmic bias", publicado na Tennessee Law Review em 2020, ela explorou como os padrões legais contra discriminação podem informar o design de algoritmos mais justos, e vice-versa.
Outra contribuição notável é seu artigo de 2021, "What We Can't Measure, We Can't Understand: Challenges to Demographic Data Procurement in the Pursuit of Fairness", em coautoria com McKane Andrus, Elena Spitzer e Jeffrey Brown. O artigo examina as dificuldades práticas de coletar dados demográficos necessários para auditar sistemas de IA em busca de viés, incluindo preocupações com privacidade e o risco de classificação incorreta. Esse trabalho tem sido influente nos debates sobre como equilibrar justiça e privacidade em IA.
Xiang também investigou o conceito de incerteza como uma forma de transparência. Em um artigo de 2021 apresentado na conferência AAAI/ACM sobre IA, Ética e Sociedade, ela e seus colegas argumentaram que os sistemas de IA deveriam comunicar sua incerteza aos usuários, permitindo uma tomada de decisão mais informada. Essa perspectiva desafia a suposição comum de que as saídas de IA devem sempre ser apresentadas com alta confiança.
Danos Éticos dos Geradores de Fala
Em 2024, Xiang coautorou um artigo intitulado "Not My Voice! A Taxonomy of Ethical and Safety Harms of Speech Generators" com Wiebke (Toussaint) Hutiri e Orestis Papakyriakopoulos. O artigo, apresentado em uma conferência organizada pela Association for Computing Machinery, fornece uma estrutura abrangente para categorizar os danos que podem surgir de discurso gerado por IA. Esses danos incluem roubo de identidade, personificação e disseminação de desinformação, bem como danos menos óbvios, como a erosão da confiança em evidências de áudio.
A taxonomia visa ajudar desenvolvedores e formuladores de políticas a antecipar e mitigar os riscos associados às tecnologias de geração de fala, que se tornaram cada vez mais sofisticadas com o advento do aprendizado profundo e das redes neurais. O trabalho de Xiang nessa área reflete sua preocupação mais ampla com as implicações sociais da IA, especialmente à medida que os modelos generativos se tornam mais capazes de produzir conteúdo realista.
Reconhecimento e Prêmios
As contribuições de Xiang foram amplamente reconhecidas. Em 2021, ela foi incluída na lista das 100 Mulheres Brilhantes em Ética de IA pela Women in AI Ethics. Em 2025, recebeu o Prêmio Privacy Papers for Policymakers da Future of Privacy Forum por seu ensaio "Mirror, Mirror, on the Wall, Who's the Fairest of Them All?", publicado no periódico Daedalus em 2024. O ensaio examina como os sistemas de visão computacional podem "ver mal" indivíduos, particularmente aqueles de grupos marginalizados, e argumenta por uma compreensão mais sutil de justiça que leve em conta tanto privacidade quanto visibilidade.
Em 2026, ela foi nomeada uma das 100 Mulheres em IA pela AI Magazine, e a Nature a incluiu em sua lista de dez cientistas para observar. Essas honrarias refletem sua crescente influência no campo da ética em IA, onde ela é vista como uma ponte entre pesquisa técnica e desenvolvimento de políticas.
Publicações Selecionadas
Xiang é autora ou coautora de numerosos artigos influentes. Entre seus trabalhos mais citados está "Explainable machine learning in deployment", publicado em 2020, que examina os desafios práticos de implementar técnicas de explicabilidade em sistemas do mundo real. O artigo, coautorado com Umang Bhatt e outros, discute a lacuna entre a pesquisa acadêmica sobre interpretabilidade e as necessidades dos profissionais.
Seu histórico de publicações também inclui trabalho sobre as dimensões legais da IA, como "Being 'seen' versus 'mis-seen': Tensions between privacy and fairness in computer vision", publicado no Harvard Journal of Law & Technology em 2022. Este artigo explora como as proteções de privacidade podem entrar em conflito com os esforços para garantir justiça, particularmente em tecnologias de vigilância e reconhecimento facial.
Além de artigos acadêmicos, Xiang escreveu op-eds para a Fortune e a Time, onde comunicou suas pesquisas sobre viés de tom de pele e curadoria ética de dados a um público mais amplo. Sua capacidade de traduzir questões técnicas complexas em linguagem acessível a tornou uma comentarista muito procurada sobre ética em IA.
Impacto e Legado
O trabalho de Xiang faz parte de um movimento mais amplo para tornar a IA mais responsável perante as pessoas que ela afeta. Ao focar em todo o ciclo de vida dos sistemas de IA - da coleta de dados à implantação - ela ajudou a mudar a conversa de desempenho puramente técnico para questões de responsabilidade social. Sua liderança na Sony, combinada com suas contribuições acadêmicas, a posiciona como uma figura-chave no esforço contínuo para desenvolver uma IA que seja ao mesmo tempo inovadora e ética.
À medida que a IA continua a permear todos os aspectos da sociedade, as estruturas que Xiang desenvolveu para curadoria ética de dados e avaliação de justiça provavelmente se tornarão cada vez mais importantes. Sua ênfase em consentimento e diversidade na coleta de dados, em particular, oferece um modelo para como as empresas podem construir sistemas de IA que respeitem os direitos individuais enquanto ainda alcançam alto desempenho. Por meio de sua pesquisa, defesa e liderança, Xiang está ajudando a definir o que significa IA responsável no século XXI.