Sorelle Friedler é uma cientista da computação e professora no Haverford College, onde lidera pesquisas sobre justiça algorítmica e transparência em aprendizado de máquina. Ela é reconhecida por suas contribuições para definir e operacionalizar justiça em sistemas de tomada de decisão automatizada, particularmente por seu papel como copresidente da conferência ACM FAT* (Fairness, Accountability, and Transparency). Seu trabalho conecta a ciência da computação teórica e as implicações sociais da inteligência artificial.
A pesquisa de Friedler foca em como vieses em dados e algoritmos podem perpetuar ou exacerbar desigualdades sociais. Ela publicou artigos influentes sobre os fundamentos matemáticos da justiça, incluindo a impossibilidade de satisfazer simultaneamente múltiplos critérios de justiça. Sua erudição moldou discussões políticas em torno do uso de aprendizado de máquina em contratação, justiça criminal e empréstimos.
Carreira Acadêmica
Friedler obteve seu doutorado em ciência da computação pela Universidade de Maryland, onde estudou geometria computacional e topologia. Ela ingressou no corpo docente do Haverford College em 2012, tornando-se professora titular no Departamento de Ciência da Computação. Em Haverford, ela fundou o programa de Ciência de Dados e orientou numerosos pesquisadores de graduação, muitos dos quais prosseguiram para estudos de pós-graduação em computação.
Seu trabalho inicial em geometria computacional estabeleceu as bases para análises algorítmicas posteriores. Ela aplicou análise topológica de dados para compreender estruturas de dados de alta dimensão, o que informou seu foco subsequente em métricas de justiça. Friedler ocupou posições visitantes em instituições como a Universidade Carnegie Mellon e colaborou com pesquisadores em academia e indústria.
Pesquisa em Justiça
O artigo seminal de Friedler de 2016, "Sobre a (im)possibilidade da justiça", coautorado com colegas, demonstrou que nenhum algoritmo único pode satisfazer todas as definições comuns de justiça simultaneamente. Esse resultado, conhecido como teorema da impossibilidade, tornou-se uma pedra angular na literatura sobre justiça algorítmica. O artigo formalizou distinções entre justiça individual (indivíduos semelhantes tratados de forma semelhante) e justiça de grupo (resultados iguais entre grupos demográficos).
Ela desenvolveu o conceito de "justiça construtiva", que considera a lacuna entre atributos verdadeiros não observáveis e proxies observáveis nos dados. Essa estrutura ajuda profissionais a identificar quando intervenções de justiça são significativas. O trabalho de Friedler também introduziu ferramentas práticas para auditar algoritmos, incluindo métodos para detectar impacto discriminatório em sistemas de classificação.
Sua pesquisa foi apoiada por subsídios da National Science Foundation e da Fundação Mozilla. Ela testemunhou perante órgãos governamentais sobre a necessidade de transparência na tomada de decisão automatizada e aconselhou organizações da sociedade civil sobre responsabilidade algorítmica.
Liderança na Conferência FAT*
Friedler atuou como copresidente da conferência ACM FAT* (agora ACM FAccT) em 2018, ao lado de outros pesquisadores líderes na área. A conferência, que começou como um workshop em 2014, tornou-se o principal fórum para pesquisa interdisciplinar sobre justiça, responsabilidade e transparência em sistemas sociotécnicos. Sob sua copresidência, o evento expandiu seu escopo para incluir mais perspectivas das ciências sociais e do direito.
Ela ajudou a estabelecer o processo de revisão por pares da conferência, que enfatiza a reprodutibilidade e a revisão ética da pesquisa. Friedler também esteve envolvida na organização de workshops em conferências importantes de redes neurais e aprendizado profundo, levando considerações de justiça para as comunidades mainstream de pesquisa em IA.
Ensino e Advocacia
Em Haverford, Friedler desenvolveu cursos sobre ética de dados e justiça algorítmica, integrando leituras filosóficas e jurídicas ao currículo de ciência da computação. Ela tem sido uma defensora vocal da inclusão de análises de justiça na educação padrão de aprendizado de máquina, argumentando que o treinamento técnico sem contexto social é incompleto.
Ela coautorou o influente artigo "Um estudo comparativo de intervenções para melhorar a justiça em aprendizado de máquina", que avaliou empiricamente métodos para reduzir vieses. Esse trabalho forneceu orientação prática para profissionais e foi amplamente citado em contextos acadêmicos e industriais. Friedler proferiu palestras principais em inúmeras conferências e apareceu em veículos de mídia discutindo vieses algorítmicos.
Publicações Selecionadas
Entre suas publicações notáveis estão "Sobre a (im)possibilidade da justiça" (2016), "Um estudo comparativo de intervenções para melhorar a justiça" (2019) e "Justiça construtiva" (2017). Seus artigos foram publicados em veículos de destaque, incluindo a Conferência ACM sobre Justiça, Responsabilidade e Transparência, a Conferência Internacional sobre Aprendizado de Máquina e o Journal of Machine Learning Research. Ela também escreveu para publicações de amplo público sobre as implicações éticas da IA generativa e de sistemas automatizados.
O trabalho contínuo de Friedler examina justiça em tecnologias emergentes, incluindo modelos de transformadores em grande escala e sua implantação no mundo real. Ela continua a colaborar com formuladores de políticas e grupos da indústria para desenvolver padrões para auditoria algorítmica.
Reconhecimento
Friedler recebeu vários prêmios por sua pesquisa e ensino, incluindo o Prêmio Lindback de Ensino Distinto do Haverford College. Ela foi nomeada Membro Distinta da Association for Computing Machinery por suas contribuições à computação e à sociedade. Seu trabalho foi destaque em relatórios das Academias Nacionais de Ciências, Engenharia e Medicina sobre o desenvolvimento responsável da IA.