Raul Castro é pesquisador na IBM Research, cujo trabalho se concentra na interseção entre inteligência artificial, políticas públicas e ética. Suas contribuições centram-se no desenvolvimento de estruturas para a implantação responsável de IA, com ênfase em transparência, responsabilidade e justiça em sistemas de aprendizado de máquina. A pesquisa de Castro informou diretrizes internas da IBM e contribuiu para discussões mais amplas na indústria sobre governança de IA.
A carreira de Castro na IBM abrange mais de uma década, durante a qual colaborou com equipes interdisciplinares para abordar as implicações sociais de tecnologias emergentes. Seu trabalho está situado no contexto mais amplo do rápido avanço da IA, incluindo desenvolvimentos em aprendizado profundo e modelos de linguagem de grande escala, e busca unir a implementação técnica a considerações regulatórias e éticas.
Início da Carreira e Educação
Castro ingressou na IBM no início dos anos 2010, após concluir estudos de pós-graduação em ciência da computação, onde se especializou em computação centrada no ser humano e políticas de tecnologia. Sua pesquisa inicial na IBM envolveu a auditoria de processos algorítmicos de tomada de decisão, particularmente em domínios de alto risco, como saúde e finanças. Esse trabalho fundamental levou ao seu envolvimento no conselho interno de ética em IA da IBM, estabelecido por volta de 2016, onde ajudou a redigir princípios iniciais para o uso responsável da IA.
Em 2018, Castro publicou um relatório técnico amplamente citado sobre mitigação de viés em sistemas de aprendizado supervisionado, que propôs um método inovador para detectar impacto desproporcional entre grupos demográficos. O relatório foi adotado como ponto de referência para várias equipes de produtos da IBM, incluindo aquelas que trabalham com ferramentas de aprendizado de máquina para clientes empresariais.
Contribuições para Estruturas de Políticas de IA
As contribuições mais significativas de Castro estão no desenvolvimento de estruturas de políticas que traduzem princípios éticos em práticas operacionais. Em 2019, ele coautorou um conjunto de diretrizes para avaliação de riscos em IA que categorizavam possíveis danos em dimensões técnicas, sociais e legais. Essas diretrizes foram posteriormente incorporadas ao kit de ferramentas AI Fairness 360 da IBM, uma biblioteca de código aberto lançada em 2018 que fornece métricas e algoritmos para testes de justiça.
Em 2020, Castro liderou um grupo de trabalho que produziu um white paper sobre a governança de sistemas de IA generativa, abordando desafios como proveniência de conteúdo e uso indevido. O documento propôs um modelo de responsabilidade em camadas, onde desenvolvedores, implantadores e auditores compartilham a responsabilidade pelos resultados do sistema. Essa estrutura foi apresentada na Conferência Internacional IEEE sobre Ciência de Dados e Análise Avançada em 2021.
Trabalho Posterior e Impacto na Indústria
De 2021 a 2023, Castro mudou seu foco para o cenário regulatório, analisando legislações propostas na União Europeia e nos Estados Unidos. Ele forneceu contribuições técnicas à equipe de políticas públicas da IBM, que enviou comentários ao processo de consulta da Lei de IA da UE em 2021. Sua análise destacou desafios práticos na implementação de requisitos de transparência e supervisão humana em sistemas de redes neurais.
Castro também contribuiu para o desenvolvimento dos padrões internos de documentação de modelos da IBM, que exigem relatórios detalhados sobre dados de treinamento, métricas de desempenho e limitações conhecidas para todos os modelos de IA implantados. Essa iniciativa, implementada nas divisões de nuvem e empresariais da IBM em 2022, foi creditada por melhorar a auditabilidade e a confiança do usuário.
Em 2023, ele coorganizou um workshop sobre segurança em IA na conferência afiliada ao Stanford AI Lab, reunindo pesquisadores da academia e da indústria para discutir benchmarks de avaliação para modelos de linguagem de grande escala. Os anais do workshop foram publicados em um periódico revisado por pares, e várias recomendações foram posteriormente incorporadas aos protocolos internos de teste da IBM.
Publicações Selecionadas e Reconhecimento
Castro é autor ou coautor de mais de 20 artigos revisados por pares e relatórios técnicos. Obras notáveis incluem "A Practical Guide to Algorithmic Fairness" (2019), "Accountability in Generative AI Systems" (2021) e "Measuring Transparency in Model Cards" (2022). Seu artigo de 2021 sobre governança de IA generativa recebeu um prêmio de melhor artigo em um simpósio internacional sobre ética em IA.
Em 2022, Castro foi nomeado para o Conselho de Ética em IA da IBM, onde continua a aconselhar sobre questões emergentes, como a implantação de modelos baseados em transformadores em aplicações do setor público. Ele também atuou como revisor para vários periódicos acadêmicos, incluindo o Journal of Artificial Intelligence Research e AI & Society.
Legado e Foco Atual
O trabalho de Castro é reconhecido por sua abordagem pragmática, enfatizando soluções implementáveis em vez de princípios abstratos. Suas estruturas têm sido usadas como materiais de ensino em cursos de pós-graduação em instituições como MIT CSAIL e Carnegie Mellon University, embora ele não tenha ocupado cargos acadêmicos formais. Em 2024, Castro está envolvido em projetos que examinam o impacto ambiental do treinamento de IA em larga escala e o papel da aumentação de dados na redução do consumo de recursos.
Sua pesquisa contínua continua a moldar as contribuições da IBM para padrões globais de IA, incluindo a participação em grupos de trabalho ISO/IEC sobre confiabilidade da IA. Castro permanece um defensor vocal da colaboração interdisciplinar, argumentando que uma governança eficaz da IA exige contribuições de tecnólogos, eticistas e formuladores de políticas.