Raul Castro est un chercheur chez IBM Research dont les travaux portent sur l'intersection de l'intelligence artificielle, des politiques publiques et de l'éthique. Ses contributions se concentrent sur le développement de cadres pour un déploiement responsable de l'IA, avec un accent sur la transparence, la responsabilité et l'équité dans les systèmes d'apprentissage automatique. Les recherches de Castro ont informé les directives internes d'IBM et ont contribué à des discussions plus larges dans l'industrie sur la gouvernance de l'IA.
La carrière de Castro chez IBM s'étend sur plus d'une décennie, durant laquelle il a collaboré avec des équipes interdisciplinaires pour aborder les implications sociétales des technologies émergentes. Son travail s'inscrit dans le contexte plus large de l'avancement rapide de l'IA, y compris les développements en apprentissage profond et en grands modèles de langage, et cherche à relier la mise en œuvre technique aux considérations réglementaires et éthiques.
Début de carrière et formation
Castro a rejoint IBM au début des années 2010 après avoir terminé des études supérieures en informatique, où il s'est spécialisé dans l'informatique centrée sur l'humain et les politiques technologiques. Ses premières recherches chez IBM impliquaient l'audit des processus décisionnels algorithmiques, en particulier dans des domaines à enjeux élevés tels que la santé et la finance. Ce travail fondateur l'a conduit à participer au comité d'éthique de l'IA d'IBM, créé vers 2016, où il a aidé à rédiger les principes initiaux pour une utilisation responsable de l'IA.
En 2018, Castro a publié un rapport technique largement cité sur l'atténuation des biais dans les systèmes d'apprentissage supervisé, qui proposait une méthode novatrice pour détecter l'impact disparate entre les groupes démographiques. Le rapport a été adopté comme point de référence par plusieurs équipes produit d'IBM, y compris celles travaillant sur des outils de apprentissage automatique pour les clients d'entreprise.
Contributions aux cadres de politiques d'IA
Les contributions les plus significatives de Castro résident dans le développement de cadres politiques qui traduisent les principes éthiques en pratiques opérationnelles. En 2019, il a co-écrit un ensemble de directives pour l'évaluation des risques liés à l'IA qui catégorisait les préjudices potentiels en dimensions techniques, sociales et juridiques. Ces directives ont ensuite été intégrées dans la boîte à outils IBM AI Fairness 360, une bibliothèque open-source publiée en 2018 qui fournit des métriques et des algorithmes pour les tests d'équité.
En 2020, Castro a dirigé un groupe de travail qui a produit un livre blanc sur la gouvernance des systèmes d'IA générative, abordant des défis tels que la provenance du contenu et son utilisation abusive. Le document proposait un modèle de responsabilité en couches, où les développeurs, les déployeurs et les auditeurs partagent la responsabilité des résultats du système. Ce cadre a été présenté à la Conférence internationale IEEE sur la science des données et l'analyse avancée en 2021.
Travaux ultérieurs et impact sur l'industrie
De 2021 à 2023, Castro a recentré son attention sur le paysage réglementaire, analysant les législations proposées dans l'Union européenne et aux États-Unis. Il a fourni une contribution technique à l'équipe de politique publique d'IBM, qui a soumis des commentaires au processus de consultation de la loi européenne sur l'IA en 2021. Son analyse a mis en évidence les défis pratiques liés à la mise en œuvre des exigences de transparence et de supervision humaine dans les systèmes de réseaux neuronaux.
Castro a également contribué au développement des normes internes de documentation des modèles d'IBM, qui exigent un rapport détaillé sur les données d'entraînement, les métriques de performance et les limitations connues pour tous les modèles d'IA déployés. Cette initiative, déployée dans les divisions cloud et entreprise d'IBM en 2022, a été créditée d'avoir amélioré l'auditabilité et la confiance des utilisateurs.
En 2023, il a co-organisé un atelier sur la sécurité de l'IA lors d'une conférence affiliée au Stanford AI Lab, réunissant des chercheurs du monde académique et de l'industrie pour discuter des critères d'évaluation des grands modèles de langage. Les actes de l'atelier ont été publiés dans une revue à comité de lecture, et plusieurs recommandations ont ensuite été intégrées dans les protocoles de test internes d'IBM.
Publications sélectionnées et reconnaissance
Castro a rédigé ou co-rédigé plus de 20 articles à comité de lecture et rapports techniques. Parmi les œuvres notables figurent « A Practical Guide to Algorithmic Fairness » (2019), « Accountability in Generative AI Systems » (2021) et « Measuring Transparency in Model Cards » (2022). Son article de 2021 sur la gouvernance de l'IA générative a reçu un prix du meilleur article lors d'un symposium international sur l'éthique de l'IA.
En 2022, Castro a été nommé au comité d'éthique de l'IA d'IBM, où il continue de conseiller sur des questions émergentes telles que le déploiement de modèles basés sur transformeurs dans les applications du secteur public. Il a également servi de réviseur pour plusieurs revues académiques, notamment le Journal of Artificial Intelligence Research et AI & Society.
Héritage et orientation actuelle
Le travail de Castro est reconnu pour son approche pragmatique, mettant l'accent sur des solutions implémentables plutôt que sur des principes abstraits. Ses cadres ont été utilisés comme matériel pédagogique dans des cours de troisième cycle dans des institutions telles que MIT CSAIL et Carnegie Mellon University, bien qu'il n'ait pas occupé de postes académiques formels. En 2024, Castro est impliqué dans des projets examinant l'impact environnemental de l'entraînement à grande échelle de l'IA et le rôle de la augmentation de données dans la réduction de la consommation de ressources.
Ses recherches en cours continuent de façonner les contributions d'IBM aux normes mondiales de l'IA, y compris la participation aux groupes de travail ISO/IEC sur la fiabilité de l'IA. Castro reste un défenseur vocal de la collaboration interdisciplinaire, arguant qu'une gouvernance efficace de l'IA nécessite l'apport de technologues, d'éthiciens et de décideurs politiques.