2018年6月に発表されたGoogle AI原則は、同社の人工知能の研究、開発、展開を規定する一連の倫理ガイドラインである。この原則はCEOのサンダー・ピチャイがブログ投稿で紹介し、GoogleがAI業務で取り組む7つの目標と、同社が追求しない応用分野を示している。このガイドラインは、アルゴリズムの偏り、プライバシー、自律システムの誤用の可能性など、AIの倫理に関する公共の議論が高まる中で生まれた。
この原則は、社内の議論と外部からの意見、特に従業員や市民社会団体からのフィードバックによって形成された。これらは、米国防総省のドローン画像分析プログラムであるProject Mavenなどの社内論争に続くもので、従業員の抗議や数人の研究者の辞任を引き起こした。この原則は、革新と責任のバランスを取りながら、AIにおける倫理的判断の枠組みを提供することを目的としている。
中核となる目標
Google AI原則は、7つの主要な目標を挙げている。第一に、AIは社会的に有益であるべきで、人々の生活を向上させ、医療、教育、持続可能性などの課題に取り組むことを目指す。第二に、AIは不公平な偏りを作り出したり強化したりすることを避け、公平性を確保し差別的な結果を緩和する努力を行う。第三に、AIは安全性のために構築・テストされ、堅牢な設計とリスク評価を含む。第四に、AIは人々に対して説明責任を持ち、フィードバックの機会と人間による監視を提供する。第五に、AIはプライバシー設計の原則を取り入れ、ユーザーにデータの透明性と管理権を与える。第六に、AIは厳格なテストや査読を含む科学的卓越性の高い基準を維持する。第七に、AIはこれらの原則に沿った用途に利用可能とし、文脈と潜在的な害を考慮する。
追求しない応用分野
この原則はまた、Googleが設計または展開しない分野も指定している。これには、全体的な害を引き起こすまたは引き起こす可能性が高い技術、武器や傷害を助長することを主目的とするその他の技術、国際的に受け入れられた規範に違反する監視のために情報を収集または使用する技術、そして国際法と人権の広く受け入れられた原則に反する目的を持つ技術が含まれる。このセクションは自律型兵器に対する立場で特に注目されたが、すべての軍事用途を明示的に禁止しているわけではない。
ガバナンスと実施
原則を運用するために、Googleは専任チームと諮問評議会を含むAI倫理審査プロセスを確立した。同社は、ケーススタディや指標を含む原則の適用方法を詳述した年次報告書を公開している。しかし、実施には課題があり、2019年には外部諮問評議会がメンバーシップをめぐる論争の後に解散した。この原則は、曖昧または十分に執行可能でないと批判する声もある一方で、Artificial intelligence開発における企業の説明責任への前向きな一歩と見る人もいる。
この原則は、OpenAIやAnthropicなどの他の組織が同様の倫理枠組みを採用するという、より広範な業界トレンドの一部である。また、アルゴリズムの公平性や透明性に関する研究を含むMachine learning倫理の学術的議論とも一致している。この原則は、特定の顔認識機能の制限や兵器システムへのAI提供の拒否など、Googleの製品決定に影響を与えてきた。
影響と批判
Google AI原則は、企業のAIガバナンスに大きな影響を与え、他の企業のモデルとなっている。これらはAI倫理に関する学術文献や政策議論で引用されている。しかし、批評家は、この原則には拘束力のある執行メカニズムが欠けており、Googleが軍事・政府顧客との継続的な協力を行っていることは、その適用に疑問を投げかけると主張する。例えば、Project Mavenは原則発表後に更新されなかったが、Googleは非兵器用途を原則が許容していることを理由に、他の防衛関連契約を継続している。
2023年、Googleは「武器や傷害を助長することを主目的とするその他の技術」を避けるという明示的な約束を削除するよう原則を改訂し、AI倫理研究者からの批判を招いた。この改訂は、特にGenerative AIやLarge language model技術をめぐるAI業界の競争圧力への対応と見られた。この動きは、倫理的コミットメントと商業的利益の間の緊張を浮き彫りにし、多くのAI開発者が直面する課題を示した。
遺産
Google AI原則は、責任あるAIに関する議論における参照点であり続けている。これらは、独自の倫理・安全枠組みを持つGoogle DeepMindの同様の取り組みと比較されてきた。また、この原則は、偏り、透明性、説明責任に関する同様の懸念に対処する欧州連合のAI法などの、AI規制のより広範な取り組みとも交差している。AIが進化し続ける中、この原則は、技術の進歩を人間の価値観と一致させる継続的な努力における歴史的なマイルストーンとして機能している。