モーガン・ロスは、アルゴリズムシステムにおける公平性と透明性に焦点を当てたAI政策研究者である。ロスは、Machine learningモデルがどのように偏った結果を生み出し得るか、また政策枠組みがこれらのリスクをどのように軽減できるかを調査している。彼らの研究は、技術的なArtificial intelligence開発とガバナンスの交差点に位置し、学術機関と産業研究所の両方としばしば協力している。
ロスは、アルゴリズム監査、説明可能性基準、Generative AIの社会的影響などのトピックを取り上げ、査読付き出版物や政策ホワイトペーパーに複数貢献している。彼らの研究は、特に採用、医療、刑事司法などの高リスク領域における責任あるAI導入に関する議論で頻繁に引用されている。
初期の経歴と教育
ロスは、倫理的AIに焦点を当てたコンピュータサイエンスの大学院研究を修了し、2018年にCarnegie Mellon Universityから博士号を取得した。博士課程の研究では、分類モデルにおける不均衡な影響を検出する方法を開発し、この研究は後に国家レベルの政策提言に影響を与えた。学界に入る前、ロスは2011年から2013年までIntelでソフトウェアエンジニアとして働き、そこで自動化された意思決定システムにおけるバイアスの実際的な課題に初めて直面した。
主要な研究貢献
ロスの2020年の論文「ブラックボックスモデルのための透明性指標」は、Neural networkシステムにおける説明可能性を定量化する新しい枠組みを導入した。この研究は、商業用AI製品の監査のベースラインとして複数の規制機関に採用されている。2022年、ロスはLarge language model出力における公平性に関する包括的な研究を共著し、1万以上の生成テキストを分析して、体系的な性別および人種バイアスを特定した。この研究は、2023年にOpenAIとAnthropicが採用した自主的な業界ガイドラインの形成に重要な役割を果たした。
ロスはまた、2021年から2023年までStanford AI Labとの複数年にわたるプロジェクトを主導し、事後的解釈可能性のためのオープンソースツールを開発した。これらのツールは現在200以上の組織で使用されており、実務者が独自の重みにアクセスせずにTransformer (architecture)モデルの特徴帰属を視覚化できるようにしている。
政策および助言活動
2019年以降、ロスはBAIR (Berkeley AI Research)グループの政策アドバイザーを務め、アルゴリズム説明責任に関する州レベルの法律に貢献している。2021年、ロスは連邦調達における標準化された公平性ベンチマークの必要性について、米国下院小委員会で証言した。彼らの提言は2022年のAI権利章典枠組みに組み込まれ、ロスの透明性指標がベストプラクティスとして参照されている。
ロスはまた、2023年のAI法施行に関する欧州連合のAIオフィスとの協議を含む国際機関とも協力している。彼らの意見は、特に金融および医療部門における高リスクシステムの説明可能性要件の形成に貢献した。
公的活動と教育
ロスは、公平性、説明責任、透明性に関する会議（FAccT）などの会議で頻繁に講演しており、2019年、2021年、2023年に発表している。また、2022年にUniversity of Oxfordで客員講師としてAI倫理の大学院レベルのコースを教えた。ロスは、技術研究をアクセス可能な政策ブリーフに翻訳するブログを活発に維持しており、毎月5万人以上の読者に届いている。
2024年、ロスは150の商業用AIシステムを対象としたアルゴリズム監査結果の公開データセットを立ち上げた。このリソースはAmazon Web Servicesがホストしており、独立した研究者がベンダーの公平性と透明性に関する主張を検証できるようにしている。
評価と今後の方向性
ロスは、研究と規制の橋渡しへの貢献が認められ、責任ある技術研究所から2023年AI政策影響賞を受賞した。また、2024年には主要な技術出版物によって「トップ100のAI影響力のある人物」の一人に選ばれた。
現在の研究には、変化するデータ分布に適応する動的公平性指標の開発に関するGoogle DeepMindとの協力が含まれる。ロスはまた、人間のフィードバックからのReinforcement learningが透明性要件と整合する方法を探求しており、このプロジェクトは2026年まで国家科学財団から資金提供を受けている。
ロスは、高リスクAIシステムの強制的な第三者監査を引き続き提唱しており、自主的な措置では不十分だと主張している。彼らの進行中の研究は、小規模および大規模組織の両方にとって技術的に厳密で実践的に実装可能な標準化された認証プロセスを創り出すことを目指している。
{"infobox": {"born": null, "died": null, "nationality": "アメリカ人", "known_for": ["機械学習の公平性指標", "大規模言語モデルの透明性枠組み"], "affiliation": "カーネギーメロン大学、バークレーAIリサーチ", "awards": ["2023年AI政策影響賞"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}