Joy Buolamwini es una científica informática y activista digital que fundó la Liga de Justicia Algorítmica, una organización sin fines de lucro dedicada a identificar y mitigar el sesgo en la inteligencia artificial. Su investigación sobre la tecnología de reconocimiento facial reveló disparidades significativas en la precisión entre grupos demográficos, lo que impulsó cambios generalizados en la industria y las políticas. Buolamwini también es autora del libro infantil Unmasking AI y ha sido reconocida como una voz líder en el movimiento por una IA responsable.
Nacida en 1989 en Edmonton, Alberta, Canadá, de padres ghaneses, Buolamwini creció en Misisipi, Estados Unidos. Obtuvo una licenciatura en ciencias de la computación en el Instituto de Tecnología de Georgia, una maestría en aprendizaje, diseño y tecnología en la Universidad de Stanford, y un doctorado en el MIT Media Lab. Su trabajo doctoral, supervisado por Daphne Koller y otros, se centró en el sesgo algorítmico en los sistemas de análisis facial.
Proyecto Gender Shades
El estudio emblemático de Buolamwini, "Gender Shades", realizado con Timnit Gebru, evaluó tres sistemas comerciales de análisis facial de Microsoft, IBM y Face++. El estudio encontró que los tres sistemas tenían tasas de error más altas para mujeres de piel más oscura, con tasas de error de hasta el 34,7% para ese grupo en comparación con el 0,8% para hombres de piel más clara. Los hallazgos se publicaron en 2018 y recibieron una amplia cobertura mediática, lo que llevó a compromisos públicos de las empresas para mejorar sus algoritmos. El estudio también introdujo la escala de tipo de piel de Fitzpatrick como métrica para evaluar el sesgo en la visión por computadora.
Liga de Justicia Algorítmica
En 2016, Buolamwini fundó la Liga de Justicia Algorítmica (AJL) para abordar las implicaciones sociales de la IA. La organización realiza investigación, incidencia y educación pública sobre temas como el reconocimiento facial, la vigilancia predictiva y la contratación algorítmica. AJL ha lanzado iniciativas como el Compromiso de Cara Segura, que insta a las empresas a abstenerse de vender tecnología de reconocimiento facial a las fuerzas del orden hasta que se implementen salvaguardas. La liga también colabora con artistas e investigadores para crear conciencia a través de exposiciones y proyectos mediáticos, incluido el documental Coded Bias, que se estrenó en el Festival de Cine de Sundance en 2020.
Incidencia e Impacto en Políticas
Buolamwini ha testificado ante el Congreso de los Estados Unidos sobre los peligros de la IA sesgada, y su trabajo ha influido en los debates políticos sobre la responsabilidad algorítmica. En 2019, coescribió un informe con la ACLU y otras organizaciones instando a una moratoria sobre el uso gubernamental del reconocimiento facial. Su incidencia contribuyó a las decisiones de Amazon y Microsoft de suspender temporalmente las ventas de tecnología de reconocimiento facial a la policía en 2020. Buolamwini también ha hablado en las Naciones Unidas y en el Foro Económico Mundial, enfatizando la necesidad de un desarrollo inclusivo de la IA.
Reconocimientos y Premios
Buolamwini ha recibido numerosos honores, incluido ser nombrada en la lista 30 Under 30 de Forbes en 2018 y en las 100 Personas Más Influyentes en IA de Time en 2023. Recibió el Premio a la Desobediencia del MIT Media Lab en 2020, y en 2022 recibió la designación de Joven Líder Global del Foro Económico Mundial. Su libro Unmasking AI, publicado en 2023, fue finalista del Premio Nacional del Libro en la categoría de no ficción. La investigación de Buolamwini ha sido citada en más de 10,000 artículos académicos, y ha pronunciado discursos de apertura en importantes conferencias como NeurIPS e ICML.
Trabajo Actual
A partir de 2025, Buolamwini continúa liderando la Liga de Justicia Algorítmica y forma parte de los consejos asesores de varias organizaciones de ética de la IA. Es investigadora visitante en el Instituto de IA Centrada en el Humano de la Universidad de Stanford e imparte cursos sobre justicia algorítmica. Sus proyectos en curso incluyen el desarrollo de herramientas para auditar sistemas de IA y la creación de recursos educativos para comunidades subrepresentadas en tecnología. El trabajo de Buolamwini ha sido fundamental para impulsar a la industria de la IA hacia pruebas más rigurosas de sesgo y equidad.