ラウル・カストロは、IBM Researchの研究者であり、その研究は人工知能、政策、倫理の交差点に焦点を当てています。彼の貢献は、透明性、説明責任、機械学習システムにおける公平性を重視した、責任あるAI展開のための枠組みの開発に中心を置いています。カストロの研究は、IBM社内のガイドラインに影響を与え、AIガバナンスに関する業界全体の議論にも貢献しています。
カストロのIBMでのキャリアは10年以上にわたり、その間、新興技術の社会的影響に対処するために学際的なチームと協力してきました。彼の研究は、深層学習や大規模言語モデルの進展を含む、AIの急速な進歩というより広い文脈の中に位置づけられ、技術的実装と規制・倫理的考慮事項との橋渡しを目指しています。
初期の経歴と教育
カストロは、人間中心のコンピューティングと技術政策を専門とするコンピュータ科学の大学院研究を修了した後、2010年代前半にIBMに入社しました。IBMでの初期の研究は、特に医療や金融などのリスクの高い領域におけるアルゴリズムによる意思決定プロセスの監査に関わるものでした。この基礎的な研究が、2016年頃に設立されたIBM社内のAI倫理委員会への参加につながり、そこで彼は責任あるAI利用のための初期原則の起草に貢献しました。
2018年、カストロは教師あり学習システムにおけるバイアス軽減に関する広く引用される技術報告書を発表し、人口統計学グループ間の不均等な影響を検出するための新しい手法を提案しました。この報告書は、エンタープライズクライアント向けの機械学習ツールに取り組むチームを含む、いくつかのIBM製品チームの参照点として採用されました。
AI政策枠組みへの貢献
カストロの最も重要な貢献は、倫理原則を運用実践に変換する政策枠組みの開発にあります。2019年、彼は潜在的な害を技術的、社会的、法的な側面に分類するAIリスク評価のための一連のガイドラインを共著しました。これらのガイドラインは、後に2018年にリリースされたオープンソースライブラリであるIBMのAI Fairness 360ツールキットに組み込まれ、公平性テストのための指標とアルゴリズムを提供しています。
2020年、カストロは生成AIシステムのガバナンスに関するホワイトペーパーを作成したワーキンググループを主導し、コンテンツの出所や悪用などの課題に対処しました。この論文は、開発者、展開者、監査者がシステム出力に対して責任を共有する階層的説明責任モデルを提案しました。この枠組みは、2021年に開催されたIEEE国際データサイエンスおよび高度分析会議で発表されました。
後期の研究と業界への影響
2021年から2023年にかけて、カストロは規制環境に焦点を移し、欧州連合と米国で提案されている法律を分析しました。彼はIBMの公共政策チームに技術的インプットを提供し、そのチームは2021年にEU AI法の協議プロセスにコメントを提出しました。彼の分析は、ニューラルネットワークシステムにおける透明性と人間の監視の要件を実装する際の実際的な課題を浮き彫りにしました。
カストロはまた、IBM社内のモデルドキュメンテーション基準の開発にも貢献し、展開されたすべてのAIモデルについて、トレーニングデータ、パフォーマンス指標、既知の制限事項に関する詳細な報告を義務付けています。このイニシアチブは、2022年にIBMのクラウドおよびエンタープライズ部門全体で展開され、監査可能性とユーザーの信頼を向上させたと評価されています。
2023年、彼はスタンフォードAIラボ関連会議でAI安全性に関するワークショップを共同開催し、学界と産業界の研究者を集めて大規模言語モデルの評価ベンチマークについて議論しました。ワークショップの議事録は査読付きジャーナルに掲載され、いくつかの推奨事項は後にIBM社内のテストプロトコルに組み込まれました。
主要な出版物と認知
カストロは、20以上の査読付き論文と技術報告書を執筆または共著しています。注目すべき作品には、「アルゴリズム的公平性の実践ガイド」(2019年)、「生成AIシステムにおける説明責任」(2021年)、「モデルカードにおける透明性の測定」(2022年)があります。2021年の生成AIガバナンスに関する論文は、国際AI倫理シンポジウムで最優秀論文賞を受賞しました。
2022年、カストロはIBMのAI倫理委員会に任命され、現在もトランスフォーマーベースのモデルの公共部門での展開などの新興課題について助言を続けています。彼はまた、Journal of Artificial Intelligence ResearchやAI & Societyなどのいくつかの学術ジャーナルの査読者も務めています。
遺産と現在の焦点
カストロの研究は、抽象的な原則よりも実装可能なソリューションを強調する実用的なアプローチで認識されています。彼の枠組みは、MIT CSAILやカーネギーメロン大学などの機関の大学院コースで教材として使用されていますが、彼は正式な学術職を保持していません。2024年現在、カストロは大規模AIトレーニングの環境影響と、リソース消費を削減するためのデータ拡張の役割を調査するプロジェクトに関与しています。
彼の進行中の研究は、AIの信頼性に関するISO/IECワーキンググループへの参加を含む、グローバルなAI標準へのIBMの貢献を形作り続けています。カストロは、効果的なAIガバナンスには技術者、倫理学者、政策立案者のインプットが必要であると主張し、学際的な協力の声高な提唱者であり続けています。