Sorelle Friedler es una científica informática y profesora en Haverford College, donde lidera investigaciones sobre equidad algorítmica y transparencia en el aprendizaje automático. Es reconocida por sus contribuciones a la definición y operacionalización de la equidad en sistemas de toma de decisiones automatizados, particularmente a través de su papel como copresidenta de la conferencia ACM FAT* (Fairness, Accountability, and Transparency). Su trabajo conecta la informática teórica con las implicaciones sociales de la inteligencia artificial.
La investigación de Friedler se centra en cómo los sesgos en los datos y algoritmos pueden perpetuar o exacerbar las desigualdades sociales. Ha publicado artículos influyentes sobre los fundamentos matemáticos de la equidad, incluida la imposibilidad de satisfacer simultáneamente múltiples criterios de equidad. Su trabajo académico ha moldeado discusiones políticas sobre el uso del aprendizaje automático en contratación, justicia penal y préstamos.
Carrera Académica
Friedler obtuvo su doctorado en informática en la Universidad de Maryland, donde estudió geometría computacional y topología. Se unió al cuerpo docente de Haverford College en 2012, convirtiéndose en profesora titular en el Departamento de Informática. En Haverford, fundó el programa de Ciencia de Datos y ha asesorado a numerosos estudiantes de pregrado en investigación, muchos de los cuales han continuado con estudios de posgrado en computación.
Su trabajo temprano en geometría computacional sentó las bases para análisis algorítmicos posteriores. Aplicó el análisis topológico de datos para comprender estructuras de datos de alta dimensión, lo que informó su enfoque posterior en métricas de equidad. Friedler ha ocupado puestos visitantes en instituciones como la Universidad Carnegie Mellon y ha colaborado con investigadores del ámbito académico e industrial.
Investigación sobre Equidad
El artículo seminal de Friedler de 2016, "On the (im)possibility of fairness", coescrito con colegas, demostró que ningún algoritmo puede satisfacer simultáneamente todas las definiciones comunes de equidad. Este resultado, conocido como el teorema de imposibilidad, se ha convertido en una piedra angular de la literatura sobre equidad algorítmica. El artículo formalizó distinciones entre equidad individual (individuos similares tratados de manera similar) y equidad grupal (resultados iguales entre grupos demográficos).
Desarrolló el concepto de "equidad constructiva", que tiene en cuenta la brecha entre atributos verdaderos no observables y proxies observables en los datos. Este marco ayuda a los profesionales a identificar cuándo las intervenciones de equidad son significativas. El trabajo de Friedler también introdujo herramientas prácticas para auditar algoritmos, incluidos métodos para detectar impacto dispar en sistemas de clasificación.
Su investigación ha sido respaldada por subvenciones de la Fundación Nacional de Ciencias y la Fundación Mozilla. Ha testificado ante organismos gubernamentales sobre la necesidad de transparencia en la toma de decisiones automatizada y ha asesorado a organizaciones de la sociedad civil sobre responsabilidad algorítmica.
Liderazgo en la Conferencia FAT*
Friedler se desempeñó como copresidenta de la conferencia ACM FAT* (ahora ACM FAccT) en 2018, junto con otros investigadores líderes en el campo. La conferencia, que comenzó como un taller en 2014, se ha convertido en el principal espacio para la investigación interdisciplinaria sobre equidad, responsabilidad y transparencia en sistemas sociotécnicos. Bajo su copresidencia, el evento amplió su alcance para incluir más perspectivas de ciencias sociales y derecho.
Ayudó a establecer el proceso de revisión por pares de la conferencia que enfatiza la reproducibilidad y la revisión ética de la investigación. Friedler también ha participado en la organización de talleres relacionados en conferencias importantes de redes neuronales y aprendizaje profundo, llevando consideraciones de equidad a las comunidades principales de investigación en IA.
Enseñanza y Defensa
En Haverford, Friedler desarrolló cursos sobre ética de datos y justicia algorítmica, integrando lecturas filosóficas y legales en el plan de estudios de informática. Ha sido una defensora vocal de incluir el análisis de equidad en la educación estándar de aprendizaje automático, argumentando que la formación técnica sin contexto social es incompleta.
Coescribió el influyente artículo "A comparative study of fairness-enhancing interventions in machine learning", que evaluó empíricamente métodos para reducir el sesgo. Este trabajo proporcionó orientación práctica para profesionales y ha sido ampliamente citado tanto en entornos académicos como industriales. Friedler ha dado charlas principales en numerosas conferencias y ha aparecido en medios de comunicación discutiendo el sesgo algorítmico.
Publicaciones Seleccionadas
Entre sus publicaciones notables se encuentran "On the (im)possibility of fairness" (2016), "A comparative study of fairness-enhancing interventions" (2019) y "Constructive fairness" (2017). Sus artículos han aparecido en espacios destacados, incluida la Conferencia ACM sobre Equidad, Responsabilidad y Transparencia, la Conferencia Internacional sobre Aprendizaje Automático y el Journal of Machine Learning Research. También ha escrito para medios públicos sobre las implicaciones éticas de la IA generativa y los sistemas automatizados.
El trabajo actual de Friedler examina la equidad en tecnologías emergentes, incluidos los modelos transformadores a gran escala y su despliegue en aplicaciones del mundo real. Continúa colaborando con responsables políticos y grupos industriales para desarrollar estándares para la auditoría algorítmica.
Reconocimiento
Friedler ha recibido varios premios por su investigación y enseñanza, incluido el Premio Lindback Foundation de Haverford College por Enseñanza Distinguida. Ha sido nombrada Miembro Distinguido de la Asociación de Maquinaria Computacional por sus contribuciones a la computación y la sociedad. Su trabajo ha sido destacado en informes de las Academias Nacionales de Ciencias, Ingeniería y Medicina sobre el desarrollo responsable de la IA.