Joy Buolamwini é uma cientista da computação e ativista digital que fundou a Algorithmic Justice League, uma organização sem fins lucrativos dedicada a identificar e mitigar o viés em inteligência artificial. Sua pesquisa sobre tecnologia de reconhecimento facial revelou disparidades significativas de precisão entre grupos demográficos, provocando mudanças generalizadas na indústria e em políticas públicas. Buolamwini também é autora do livro infantil Unmasking AI e foi reconhecida como uma voz líder no movimento por IA responsável.
Nascida em 1989 em Edmonton, Alberta, Canadá, filha de pais ganenses, Buolamwini cresceu no Mississippi, Estados Unidos. Ela obteve bacharelado em ciência da computação pelo Georgia Institute of Technology, mestrado em aprendizagem, design e tecnologia pela Universidade de Stanford e doutorado pelo MIT Media Lab. Seu trabalho de doutorado, supervisionado por Daphne Koller e outros, focou em viés algorítmico em sistemas de análise facial.
Projeto Gender Shades
O estudo marcante de Buolamwini, "Gender Shades", conduzido com Timnit Gebru, avaliou três sistemas comerciais de análise facial da Microsoft, IBM e Face++. O estudo constatou que todos os três sistemas apresentavam taxas de erro mais altas para mulheres de pele mais escura, com taxas de erro de até 34,7% para esse grupo, em comparação com 0,8% para homens de pele mais clara. Os resultados foram publicados em 2018 e receberam ampla cobertura da mídia, levando a compromissos públicos das empresas para melhorar seus algoritmos. O estudo também introduziu a escala de tipo de pele de Fitzpatrick como métrica para avaliar viés em visão computacional.
Algorithmic Justice League
Em 2016, Buolamwini fundou a Algorithmic Justice League (AJL) para abordar as implicações sociais da IA. A organização realiza pesquisa, advocacia e educação pública sobre questões como reconhecimento facial, policiamento preditivo e contratação algorítmica. A AJL lançou iniciativas como o Safe Face Pledge, que pede que empresas se abstenham de vender tecnologia de reconhecimento facial para forças policiais até que salvaguardas estejam em vigor. A liga também colabora com artistas e pesquisadores para aumentar a conscientização por meio de exposições e projetos de mídia, incluindo o documentário Coded Bias, que estreou no Festival de Cinema de Sundance em 2020.
Advocacia e Impacto em Políticas
Buolamwini testemunhou perante o Congresso dos EUA sobre os perigos da IA tendenciosa, e seu trabalho influenciou discussões políticas sobre responsabilidade algorítmica. Em 2019, ela coautorou um relatório com a ACLU e outras organizações pedindo uma moratória no uso governamental de reconhecimento facial. Sua advocacia contribuiu para decisões da Amazon e da Microsoft de suspender temporariamente as vendas de tecnologia de reconhecimento facial para a polícia em 2020. Buolamwini também falou nas Nações Unidas e no Fórum Econômico Mundial, enfatizando a necessidade de desenvolvimento inclusivo de IA.
Reconhecimento e Prêmios
Buolamwini recebeu inúmeras honrarias, incluindo ser nomeada para a lista 30 Under 30 da Forbes em 2018 e para as 100 Pessoas Mais Influentes em IA da Time em 2023. Ela recebeu o Prêmio Disobedience do MIT Media Lab em 2020, e em 2022 recebeu a designação de Jovem Líder Global do Fórum Econômico Mundial. Seu livro Unmasking AI, publicado em 2023, foi finalista do National Book Award na categoria não ficção. A pesquisa de Buolamwini foi citada em mais de 10.000 artigos acadêmicos, e ela proferiu discursos principais em grandes conferências, incluindo NeurIPS e ICML.
Trabalho Atual
Em 2025, Buolamwini continua liderando a Algorithmic Justice League e atua nos conselhos consultivos de várias organizações de ética em IA. Ela é pesquisadora visitante no Instituto de IA Centrada no Humano da Universidade de Stanford e ministra cursos sobre justiça algorítmica. Seus projetos em andamento incluem o desenvolvimento de ferramentas para auditar sistemas de IA e a criação de recursos educacionais para comunidades sub-representadas em tecnologia. O trabalho de Buolamwini foi fundamental para direcionar a indústria de IA em direção a testes mais rigorosos de viés e justiça.