Morgan Ross es una investigadora de políticas de IA cuyo trabajo se centra en la equidad y la transparencia en los sistemas algorítmicos. Ross examina cómo los modelos de aprendizaje automático pueden producir resultados sesgados y cómo los marcos de políticas pueden mitigar estos riesgos. Su investigación se sitúa en la intersección del desarrollo técnico de la inteligencia artificial y la gobernanza, colaborando a menudo tanto con instituciones académicas como con laboratorios industriales.
Ross ha contribuido a varias publicaciones revisadas por pares y documentos de políticas, abordando temas como la auditoría algorítmica, los estándares de explicabilidad y el impacto social de la IA generativa. Su trabajo se cita con frecuencia en debates sobre el despliegue responsable de la IA, particularmente en ámbitos de alto riesgo como la contratación, la atención médica y la justicia penal.
Inicios de Carrera y Educación
Ross completó estudios de posgrado en ciencias de la computación con un enfoque en IA ética, obteniendo un doctorado en la Universidad Carnegie Mellon en 2018. Durante su investigación doctoral, Ross desarrolló métodos para detectar el impacto dispar en modelos de clasificación, una línea de trabajo que luego informó recomendaciones de políticas nacionales. Antes de la academia, Ross trabajó como ingeniera de software en Intel de 2011 a 2013, donde encontró por primera vez los desafíos prácticos del sesgo en los sistemas de decisión automatizados.
Contribuciones Clave de Investigación
El artículo de Ross de 2020, "Transparency Metrics for Black-Box Models", introdujo un marco novedoso para cuantificar la explicabilidad en sistemas de redes neuronales. Este trabajo ha sido adoptado por varios organismos reguladores como base para auditar productos comerciales de IA. En 2022, Ross coescribió un estudio exhaustivo sobre la equidad en las salidas de modelos de lenguaje grandes, que analizó más de 10,000 textos generados e identificó sesgos sistemáticos de género y raza. El estudio fue fundamental para dar forma a las directrices voluntarias de la industria adoptadas por OpenAI y Anthropic en 2023.
Ross también lideró un proyecto de varios años con el Laboratorio de IA de Stanford de 2021 a 2023, desarrollando herramientas de código abierto para la interpretabilidad post-hoc. Estas herramientas, ahora utilizadas por más de 200 organizaciones, permiten a los profesionales visualizar las atribuciones de características en modelos de transformadores sin acceder a pesos propietarios.
Trabajo de Políticas y Asesoría
Desde 2019, Ross ha servido como asesora de políticas para el grupo Berkeley AI Research, contribuyendo a la legislación estatal sobre responsabilidad algorítmica. En 2021, Ross testificó ante un subcomité del Congreso de los EE. UU. sobre la necesidad de estándares de equidad estandarizados en la contratación federal. Sus recomendaciones se incorporaron al marco de la Carta de Derechos de IA de 2022, que referencia las métricas de transparencia de Ross como una mejor práctica.
Ross también ha colaborado con organismos internacionales, incluida una consulta de 2023 con la Oficina de IA de la Unión Europea sobre la implementación de la Ley de IA. Su aportación ayudó a dar forma a los requisitos de explicabilidad en sistemas de alto riesgo, particularmente en los sectores financiero y de atención médica.
Participación Pública y Docencia
Ross es una oradora frecuente en conferencias como la Conferencia sobre Equidad, Responsabilidad y Transparencia (FAccT), donde presentó en 2019, 2021 y 2023. También ha impartido cursos de posgrado sobre ética de la IA en la Universidad de Oxford como profesora visitante en 2022. Ross mantiene un blog activo que traduce la investigación técnica en resúmenes de políticas accesibles, llegando a una audiencia de más de 50,000 lectores mensuales.
En 2024, Ross lanzó un conjunto de datos público de resultados de auditorías algorítmicas, que cubre 150 sistemas comerciales de IA. Este recurso, alojado en Amazon Web Services, permite a investigadores independientes verificar las afirmaciones de los proveedores sobre equidad y transparencia.
Reconocimiento y Direcciones Futuras
Ross recibió el Premio de Impacto en Políticas de IA 2023 del Instituto para la Tecnología Responsable, reconociendo sus contribuciones para unir la investigación y la regulación. También fue nombrada una de las "Top 100 Influencers de IA" por una destacada publicación tecnológica en 2024.
El trabajo actual incluye una colaboración con Google DeepMind en el desarrollo de métricas de equidad dinámicas que se adaptan a distribuciones de datos cambiantes. Ross también está explorando cómo el aprendizaje por refuerzo a partir de retroalimentación humana puede alinearse con los requisitos de transparencia, un proyecto financiado por la Fundación Nacional de Ciencias hasta 2026.
Ross continúa abogando por auditorías obligatorias de terceros para sistemas de IA de alto riesgo, argumentando que las medidas voluntarias son insuficientes. Su investigación en curso tiene como objetivo crear procesos de certificación estandarizados que sean técnicamente rigurosos y prácticamente implementables para organizaciones tanto pequeñas como grandes.
{"infobox": {"born": null, "died": null, "nationality": "Estadounidense", "known_for": ["Métricas de equidad para el aprendizaje automático", "Marcos de transparencia para modelos de lenguaje grandes"], "affiliation": "Universidad Carnegie Mellon; Berkeley AI Research", "awards": ["Premio de Impacto en Políticas de IA 2023"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}