マーガレット・ミッチェルは、コンピュータ科学者であり、人工知能倫理の研究者である。彼女は、オープンソースの機械学習プラットフォームで知られるHugging Faceにおいて、倫理的AIチームを共同設立した。彼女の研究は、機械学習システムにおけるバイアスの特定と軽減、AIモデルのドキュメント作成手法の改善、そしてAI開発におけるより包括的で説明責任のあるアプローチの提唱に焦点を当てている。彼女は、研究、公開講演、そしてAIシステムを評価するための広く使用されるフレームワークの作成を通じて、この分野に貢献してきた。
ミッチェルのキャリアは、人工知能技術が社会的影響を考慮して開発されることを確実にするというコミットメントによって形成されてきた。彼女は、AIシステムが有害なステレオタイプを永続させるリスクについて特に声を上げており、モデルの内部動作を研究者や一般の人々に対してより透明にする方法に取り組んできた。彼女の努力により、彼女は深層学習や生成AIなどの技術の倫理的含意を検討する、新興分野であるAI倫理における主要な声として位置づけられている。
初期のキャリアと研究
ミッチェルは、コンピュータが人間の言語を理解し生成することを可能にするAIのサブフィールドである自然言語処理で専門的なキャリアを開始した。彼女はコンピュータ科学で博士号を取得し、初期の研究では言語モデルが単語と概念の間の関連をどのように学習するかを探求した。この基礎的な研究は、これらのモデルが訓練データから、性別、人種、民族などに関連する社会的バイアスを意図せずにエンコードする可能性があることを調査するきっかけとなった。
研究者としての期間中、彼女は他の科学者と協力して、多くのニューラルネットワークモデルで使用される単語の数値表現である単語埋め込みにおけるバイアスを測定する方法を開発した。彼女の調査結果は、大規模なテキストコーパスで訓練されたAIシステムが、それらのテキストに存在する偏見を反映することが多いことを強調した。この問題は、大規模言語モデルが規模と影響力を増すにつれて、ますます重要になっている。
GoogleとMicrosoftでの貢献
ミッチェルはGoogleで働き、同社のAI倫理部門で上級研究科学者を務めた。Googleでは、AI開発者がモデルの意図された用途、性能、限界に関する情報を開示することを奨励するドキュメントフレームワークであるモデルカードに関する画期的な論文を共著した。モデルカードのアプローチは、その後、責任あるAI展開のベストプラクティスとして多くの組織で採用されている。
Googleでの在職期間中、彼女は現代の言語モデルの構成要素であるトランスフォーマーアーキテクチャの倫理的課題も研究した。彼女は、これらのモデルがバイアスのある出力を生成する可能性を検討し、訓練データのフィルタリングや公平性を考慮した評価指標の開発など、害を軽減するための戦略に取り組んだ。Googleを離れた後、彼女はMicrosoftに加わり、倫理研究を継続し、AIシステムをより公平にすることを目的としたプロジェクトに貢献した。
Hugging Faceでの倫理的AIの共同設立
2021年、ミッチェルは機械学習のためのオープンソースツールとライブラリを提供する企業であるHugging Faceで倫理的AIチームを共同設立した。Hugging Faceでは、彼女はバイアスや毒性についてモデルを監査できるツールの作成を含む、倫理を同社の製品開発に統合する取り組みを主導してきた。彼女のチームはまた、AIの訓練に使用されるデータセットの透明性を向上させ、コミュニティにデータの起源と潜在的なバイアスを文書化することを奨励している。
彼女のリーダーシップの下、倫理的AIチームは、AI訓練の環境影響や、AI開発に多様な視点を含めることの重要性などのトピックに関する研究を発表してきた。ミッチェルはまた、コンピュータ科学者、社会科学者、政策立案者を結集して、AIが提起する複雑な課題に対処する学際的協力の提唱者でもある。Hugging Faceでの彼女の役割は、彼女をオープンソースAIコミュニティにおける著名な人物にし、倫理はAI研究の後付けではなく中核的な要素であるべきだという考えを擁護してきた。
提唱活動と公的関与
技術的な仕事に加えて、ミッチェルはAI倫理に関する積極的な公的コメンテーターでもある。彼女は政府機関で証言し、国際会議でAI業界における規制と説明責任の必要性について講演してきた。彼女は、一部の企業が安全性よりもスピードと利益を優先する傾向を批判し、そのような慣行が疎外されたコミュニティに有害な結果をもたらす可能性があると主張している。
ミッチェルはまた、AI労働力における多様性の問題にも取り組んでおり、多様な背景を持たないチームは潜在的な害を見落とす可能性が高いと指摘している。彼女は大学や企業に対し、報復を恐れずに倫理的懸念を提起できる環境を作るよう奨励してきた。彼女の提唱活動は、新世代の研究者に仕事の社会的側面を考慮するよう促し、AI内で認識された分野としての倫理の成長に貢献している。
評価と遺産
ミッチェルの貢献は、学術機関や業界団体からの賞や栄誉で認められている。彼女はいくつかの出版物でAIで最も影響力のある人物の一人に選ばれ、彼女の論文は倫理文献で広く引用されている。モデルカードとバイアス軽減に関する彼女の仕事は、AI実践者にとって標準的な参考資料となっており、彼女は責任あるAIに関する議論を形成し続けている。
2020年代半ばの時点で、ミッチェルは依然として活発な研究者および提唱者であり、クリエイティブ産業における生成AIツールの展開や監視におけるAIの使用など、AIにおける新たな倫理的問題に対処するプロジェクトに取り組んでいる。彼女の遺産は、技術は人類に公平に奉仕しなければならないという彼女の主張によって定義されており、この原則は学術研究と業界慣行の両方に影響を与えてきた。彼女は、AIをより透明で公平かつ説明責任のあるものにする運動における重要人物と見なされている。