人工知能を人々と社会の利益のために活用するためのパートナーシップ（Partnership on Artificial Intelligence to Benefit People and Society）、一般にパートナーシップ・オン・AI（PAI）として知られる団体は、人工知能の責任ある利用に取り組む非営利連合である。2016年に設立されたこの組織は、学界、市民社会、産業界の利害関係者を結集し、テックコミュニティ向けのベストプラクティス勧告を策定している。2024年時点で、PAIは16カ国・126のパートナー組織を擁し、アルゴリズムの透明性から自動化の社会的影響に至るまで、多岐にわたる問題に取り組んでいる。
この連合はマルチステークホルダーモデルで運営され、テクノロジー企業、研究機関、アドボカシー団体の視点を統合している。その活動は、原則を開発者、政策立案者、一般市民向けの実践的な指針に変換することに焦点を当てており、機械学習や生成AIなどの分野におけるリスク軽減とイノベーション促進の両立を重視している。
歴史
パートナーシップ・オン・AIは2016年9月28日に公に発表され、創設メンバーにはAmazon、Facebook、Google、DeepMind、Microsoft、IBMが含まれていた。暫定共同議長は、マイクロソフトリサーチのエリック・ホーヴィッツとDeepMindのムスタファ・スレイマンが務めた。2017年1月には、AppleのSiri先進開発部門責任者であるトム・グルーバーが理事会に加わった。テラ・ライオンズは、米国最高技術責任者メーガン・スミスの政策顧問としての経験を活かし、2017年10月に創設エグゼクティブディレクターに就任した。
2018年10月には、中国拠点の企業として初めてBaiduが加盟した。2020年11月、PAIはAI関連の害を特定・評価するための公開ツールであるAIインシデントデータベース（AIID）を立ち上げた。以前理事会メンバーだったレベッカ・フィンレーは、暫定エグゼクティブディレクターを務めた後、2021年10月26日にCEOに任命された。2023年2月、PAIは1年にわたる協働プロセスを経て、Adobe、BBC、OpenAI、TikTokなどのパートナーの支援を受け、倫理的な合成メディアの枠組みを導入した。
ミッションと原則
PAIはその活動を5つのプログラム領域に整理している：AIとメディアの完全性、AI・労働・経済、正義・透明性・説明責任、包摂的な研究と設計、そしてAIの安全性である。各プログラムは、実践的な影響を目指した方法論的ツール、報告書、ガイドラインを生み出している。AIとメディアの完全性プログラムは、AIが有害なコンテンツを増幅させる可能性に対処し、AI・労働・経済プログラムは、経済学者と労働者代表を招集し、包摂的な経済政策の形成に取り組む。
公平性・透明性・説明責任プログラムは、アルゴリズムの公平性と説明可能性の基準を策定し、コミュニティのAI開発への参加を促進する包摂的な研究と設計プログラムを補完している。安全性重視のAIプログラムは、医療や輸送などの高リスク分野に焦点を当て、AIインシデントデータベースやSafeLife学習環境などのイニシアチブを監督している。組織はまた、社会的有用性を重視し、公共福祉、教育、持続可能性におけるAI応用を探求している。
プログラムとイニシアチブ
主要なイニシアチブとして、AIモデルの安全な展開のための枠組みがあり、これはプロバイダーが進化する能力と社会的リスクを管理する指針となる。PAIはまた、テック業界における女性やマイノリティ化された個人の離職率に関する研究でGoogle DeepMindと協力している。説明可能性の分野では、説明可能なAI（XAI）の展開に関するワークショップを開催し、業界専門家を集めて実践的な課題を議論してきた。
First Draftとの提携では、欺瞞的なオンラインコンテンツに対抗する戦略を調査し、情報の完全性への方法論的アプローチを反映させている。AIインシデントデータベースは引き続き中心的なリソースであり、リスク管理の実践に情報を提供するため、実世界の事例をカタログ化している。2021年8月の米国国立標準技術研究所（NIST）へのPAIの回答は、機械学習ライフサイクルを文書化するABOUT MLプロジェクトを含むこれらの取り組みを、NISTのAIリスク管理フレームワークに沿ったものとして強調した。
影響とガバナンス
PAIのガバナンス構造には、パートナー組織から選出された理事会が含まれ、創設以来のリーダーシップの移行が記録されている。連合は6つの創設企業から120以上のパートナーへと成長し、セクターを超えた影響力の拡大を示している。その勧告は、特にAIリスク管理と合成メディアのガバナンスに関連する政策議論で参照されてきた。組織は、人工知能技術が進化するにつれて優先事項を適応させ続け、イノベーションと説明責任のバランスを取っている。
2024年時点で、PAIは責任あるAIに関する世界的な対話を形成する上で引き続き活動的であり、メディアの完全性、労働、安全性に関する進行中のプロジェクトを有している。その協働モデルは、純粋に業界主導の取り組みとは一線を画し、技術的・政策的決定に多様な声を取り込むことを目指している。