劳尔·卡斯特罗是IBM Research的一名研究员，其工作聚焦于人工智能、政策与伦理的交汇领域。他的贡献主要在于开发负责任AI部署的框架，强调机器学习系统中的透明度、问责制和公平性。卡斯特罗的研究为IBM内部指南提供了依据，并对更广泛的行业AI治理讨论有所贡献。
卡斯特罗在IBM的职业生涯跨越了十多年，期间他与跨学科团队合作，应对新兴技术的社会影响。他的工作置于AI快速发展的更大背景下，包括深度学习和大型语言模型的进展，并力求将技术实施与监管和伦理考量相衔接。
早期职业与教育
卡斯特罗于2010年代初加入IBM，此前他完成了计算机科学的研究生学业，专攻人本计算与技术政策。他在IBM的早期研究涉及审计算法决策过程，尤其是在医疗和金融等高风险领域。这一基础性工作使他参与了IBM内部AI伦理委员会（约成立于2016年），并协助起草了负责任AI使用的初步原则。
2018年，卡斯特罗发表了一篇被广泛引用的关于监督学习系统中偏差缓解的技术报告，提出了一种检测不同人口群体间差异影响的新方法。该报告被IBM多个产品团队采纳为参考点，包括那些为企事业客户开发机器学习工具的团队。
对AI政策框架的贡献
卡斯特罗最显著的贡献在于开发政策框架，将伦理原则转化为操作实践。2019年，他合著了一套AI风险评估指南，将潜在危害分为技术、社会和法律三个维度。这些指南后来被纳入IBM的AI Fairness 360工具包，该工具包于2018年发布，是一个提供公平性测试指标和算法的开源库。
2020年，卡斯特罗领导了一个工作组，撰写了一份关于生成式AI系统治理的白皮书，解决了内容溯源和滥用等挑战。该论文提出了一种分层问责模型，其中开发者、部署者和审计者共同对系统输出负责。这一框架于2021年在IEEE国际数据科学与高级分析会议上进行了展示。
后期工作与行业影响
从2021年到2023年，卡斯特罗将焦点转向监管领域，分析了欧盟和美国的拟议立法。他为IBM的公共政策团队提供了技术输入，该团队于2021年向欧盟AI法案咨询过程提交了意见。他的分析强调了在神经网络系统中实施透明度和人类监督要求的实际挑战。
卡斯特罗还参与了IBM内部模型文档标准的制定，该标准要求对所有部署的AI模型详细报告训练数据、性能指标和已知局限性。这一举措于2022年在IBM的云和企业部门推广，被广泛认为提高了可审计性和用户信任度。
2023年，他在斯坦福AI实验室附属会议上共同组织了一个AI安全研讨会，汇集了学术界和工业界的研究人员，讨论大型语言模型的评估基准。研讨会的论文集发表在一本同行评审期刊上，其中几项建议后来被纳入IBM的内部测试协议。
精选出版物与认可
卡斯特罗撰写或合著了超过20篇同行评审论文和技术报告。 notable作品包括《算法公平性实用指南》（2019年）、《生成式AI系统中的问责制》（2021年）和《模型卡片中的透明度测量》（2022年）。他2021年关于生成式AI治理的论文在一个国际AI伦理研讨会上获得了最佳论文奖。
2022年，卡斯特罗被任命为IBM AI伦理委员会成员，继续就新兴问题提供建议，例如在公共部门应用中部署基于Transformer的模型。他还担任多本学术期刊的审稿人，包括《人工智能研究杂志》和《AI与社会》。
遗产与当前焦点
卡斯特罗的工作以其务实方法而著称，强调可实施的解决方案而非抽象原则。他的框架已被用作MIT CSAIL和卡内基梅隆大学等机构研究生课程的教学材料，尽管他并未担任正式学术职位。截至2024年，卡斯特罗参与了一些项目，研究大规模AI训练的环境影响以及数据增强在减少资源消耗中的作用。
他的持续研究继续塑造IBM对全球AI标准的贡献，包括参与ISO/IEC关于AI可信度的工作组。卡斯特罗始终倡导跨学科合作，认为有效的AI治理需要技术专家、伦理学家和政策制定者的共同参与。