Morgan Ross é uma pesquisadora de políticas de IA cujo trabalho se concentra em justiça e transparência em sistemas algorítmicos. Ross examina como modelos de aprendizado de máquina podem produzir resultados tendenciosos e como estruturas de políticas podem mitigar esses riscos. Sua pesquisa situa-se na interseção entre o desenvolvimento técnico de inteligência artificial e a governança, frequentemente colaborando tanto com instituições acadêmicas quanto com laboratórios da indústria.
Ross contribuiu para diversas publicações revisadas por pares e documentos de políticas, abordando tópicos como auditoria algorítmica, padrões de explicabilidade e o impacto social da IA generativa. Seu trabalho é frequentemente citado em discussões sobre a implantação responsável de IA, particularmente em domínios de alto risco, como contratação, saúde e justiça criminal.
Início de Carreira e Educação
Ross concluiu estudos de pós-graduação em ciência da computação com foco em IA ética, obtendo um PhD pela Universidade Carnegie Mellon em 2018. Durante sua pesquisa de doutorado, Ross desenvolveu métodos para detectar impacto dispar em modelos de classificação, uma linha de trabalho que posteriormente informou recomendações de políticas nacionais. Antes da academia, Ross trabalhou como engenheira de software na Intel de 2011 a 2013, onde encontrou pela primeira vez os desafios práticos do viés em sistemas de decisão automatizados.
Principais Contribuições de Pesquisa
O artigo de Ross de 2020, "Transparency Metrics for Black-Box Models", introduziu uma estrutura inovadora para quantificar a explicabilidade em sistemas de redes neurais. Este trabalho foi adotado por vários órgãos reguladores como base para auditar produtos comerciais de IA. Em 2022, Ross coautora um estudo abrangente sobre justiça em saídas de modelos de linguagem de grande escala, que analisou mais de 10.000 textos gerados e identificou vieses sistemáticos de gênero e raça. O estudo foi fundamental para moldar diretrizes voluntárias da indústria adotadas pela OpenAI e pela Anthropic em 2023.
Ross também liderou um projeto de vários anos com o Laboratório de IA de Stanford de 2021 a 2023, desenvolvendo ferramentas de código aberto para interpretabilidade post-hoc. Essas ferramentas, agora usadas por mais de 200 organizações, permitem que profissionais visualizem atribuições de características em modelos transformadores sem acessar pesos proprietários.
Trabalho de Políticas e Assessoria
Desde 2019, Ross atua como assessora de políticas para o grupo Berkeley AI Research, contribuindo para legislação estadual sobre responsabilidade algorítmica. Em 2021, Ross testemunhou perante um subcomitê do Congresso dos EUA sobre a necessidade de padrões de justiça uniformizados em compras federais. Suas recomendações foram incorporadas à estrutura da AI Bill of Rights de 2022, que referencia as métricas de transparência de Ross como uma prática recomendada.
Ross também colaborou com órgãos internacionais, incluindo uma consultoria em 2023 com o Escritório de IA da União Europeia sobre a implementação do AI Act. Sua contribuição ajudou a moldar requisitos de explicabilidade em sistemas de alto risco, particularmente nos setores financeiro e de saúde.
Engajamento Público e Ensino
Ross é palestrante frequente em conferências como a Conference on Fairness, Accountability, and Transparency (FAccT), onde apresentou em 2019, 2021 e 2023. Também ministrou cursos de pós-graduação sobre ética em IA na Universidade de Oxford como professora visitante em 2022. Ross mantém um blog ativo que traduz pesquisas técnicas em resumos de políticas acessíveis, alcançando um público de mais de 50.000 leitores mensais.
Em 2024, Ross lançou um conjunto de dados público de resultados de auditorias algorítmicas, cobrindo 150 sistemas comerciais de IA. Este recurso, hospedado pela Amazon Web Services, permite que pesquisadores independentes verifiquem alegações de fornecedores sobre justiça e transparência.
Reconhecimento e Direções Futuras
Ross recebeu o Prêmio de Impacto em Políticas de IA de 2023 do Instituto de Tecnologia Responsável, reconhecendo suas contribuições para unir pesquisa e regulação. Também foi nomeada uma das "Top 100 AI Influencers" por uma publicação líder em tecnologia em 2024.
O trabalho atual inclui uma colaboração com a Google DeepMind no desenvolvimento de métricas de justiça dinâmicas que se adaptam a distribuições de dados em mudança. Ross também está explorando como o aprendizado por reforço a partir de feedback humano pode ser alinhado com requisitos de transparência, um projeto financiado pela National Science Foundation até 2026.
Ross continua defendendo auditorias obrigatórias de terceiros para sistemas de IA de alto risco, argumentando que medidas voluntárias são insuficientes. Sua pesquisa em andamento visa criar processos de certificação padronizados que sejam tecnicamente rigorosos e praticamente implementáveis para organizações pequenas e grandes.