Raul Castro es un investigador en IBM Research cuyo trabajo se centra en la intersección de la inteligencia artificial, la política y la ética. Sus contribuciones se centran en el desarrollo de marcos para el despliegue responsable de la IA, con énfasis en la transparencia, la rendición de cuentas y la equidad en los sistemas de aprendizaje automático. La investigación de Castro ha informado las directrices internas de IBM y ha contribuido a debates más amplios de la industria sobre la gobernanza de la IA.
La carrera de Castro en IBM abarca más de una década, durante la cual ha colaborado con equipos interdisciplinarios para abordar las implicaciones sociales de las tecnologías emergentes. Su trabajo se sitúa en el contexto más amplio del rápido avance de la IA, incluidos los desarrollos en aprendizaje profundo y grandes modelos de lenguaje, y busca tender un puente entre la implementación técnica y las consideraciones regulatorias y éticas.
Primeros años y educación
Castro se unió a IBM a principios de la década de 2010 después de completar estudios de posgrado en ciencias de la computación, donde se especializó en computación centrada en el ser humano y política tecnológica. Su investigación temprana en IBM implicó la auditoría de procesos algorítmicos de toma de decisiones, particularmente en dominios de alto riesgo como la atención médica y las finanzas. Este trabajo fundacional lo llevó a participar en el consejo interno de ética de IA de IBM, establecido alrededor de 2016, donde ayudó a redactar los principios iniciales para el uso responsable de la IA.
En 2018, Castro publicó un informe técnico ampliamente citado sobre la mitigación de sesgos en sistemas de aprendizaje supervisado, que propuso un método novedoso para detectar el impacto dispar entre grupos demográficos. El informe fue adoptado como punto de referencia por varios equipos de productos de IBM, incluidos aquellos que trabajan en herramientas de aprendizaje automático para clientes empresariales.
Contribuciones a los marcos de política de IA
Las contribuciones más significativas de Castro residen en el desarrollo de marcos de política que traducen principios éticos en prácticas operativas. En 2019, coautorizó un conjunto de directrices para la evaluación de riesgos de IA que categorizaban los daños potenciales en dimensiones técnicas, sociales y legales. Estas directrices fueron posteriormente incorporadas en el kit de herramientas AI Fairness 360 de IBM, una biblioteca de código abierto lanzada en 2018 que proporciona métricas y algoritmos para pruebas de equidad.
En 2020, Castro lideró un grupo de trabajo que produjo un documento técnico sobre la gobernanza de los sistemas de IA generativa, abordando desafíos como la procedencia del contenido y el uso indebido. El documento propuso un modelo de rendición de cuentas en capas, donde desarrolladores, implementadores y auditores comparten la responsabilidad por los resultados del sistema. Este marco se presentó en la Conferencia Internacional IEEE sobre Ciencia de Datos y Analítica Avanzada en 2021.
Trabajo posterior e impacto en la industria
De 2021 a 2023, Castro cambió su enfoque hacia el panorama regulatorio, analizando la legislación propuesta en la Unión Europea y los Estados Unidos. Proporcionó aportes técnicos al equipo de política pública de IBM, que presentó comentarios al proceso de consulta de la Ley de IA de la UE en 2021. Su análisis destacó los desafíos prácticos en la implementación de requisitos de transparencia y supervisión humana en sistemas de redes neuronales.
Castro también contribuyó al desarrollo de los estándares internos de documentación de modelos de IBM, que requieren informes detallados sobre datos de entrenamiento, métricas de rendimiento y limitaciones conocidas para todos los modelos de IA desplegados. Esta iniciativa, implementada en las divisiones de nube y empresariales de IBM en 2022, ha sido acreditada por mejorar la auditabilidad y la confianza del usuario.
En 2023, coorganizó un taller sobre seguridad de la IA en la conferencia afiliada al Stanford AI Lab, reuniendo a investigadores del mundo académico y la industria para discutir puntos de referencia de evaluación para grandes modelos de lenguaje. Las actas del taller se publicaron en una revista revisada por pares, y varias recomendaciones fueron posteriormente incorporadas en los protocolos internos de prueba de IBM.
Publicaciones seleccionadas y reconocimiento
Castro ha sido autor o coautor de más de 20 artículos revisados por pares e informes técnicos. Obras notables incluyen "Una guía práctica para la equidad algorítmica" (2019), "Rendición de cuentas en sistemas de IA generativa" (2021) y "Medición de la transparencia en tarjetas de modelo" (2022). Su artículo de 2021 sobre la gobernanza de la IA generativa recibió un premio al mejor artículo en un simposio internacional sobre ética de la IA.
En 2022, Castro fue designado para el Consejo de Ética de IA de IBM, donde continúa asesorando sobre problemas emergentes como el despliegue de modelos basados en transformadores en aplicaciones del sector público. También ha servido como revisor para varias revistas académicas, incluido el Journal of Artificial Intelligence Research y AI & Society.
Legado y enfoque actual
El trabajo de Castro es reconocido por su enfoque pragmático, enfatizando soluciones implementables sobre principios abstractos. Sus marcos han sido utilizados como materiales de enseñanza en cursos de posgrado en instituciones como MIT CSAIL y Carnegie Mellon University, aunque no ha ocupado nombramientos académicos formales. A partir de 2024, Castro está involucrado en proyectos que examinan el impacto ambiental del entrenamiento de IA a gran escala y el papel de la aumentación de datos en la reducción del consumo de recursos.
Su investigación en curso continúa dando forma a las contribuciones de IBM a los estándares globales de IA, incluida la participación en grupos de trabajo ISO/IEC sobre la confiabilidad de la IA. Castro sigue siendo un defensor vocal de la colaboración interdisciplinaria, argumentando que una gobernanza efectiva de la IA requiere aportes de tecnólogos, eticistas y formuladores de políticas por igual.