DeepMind Safety Researchは、Google DeepMindの部門であり、AIシステムに関連するリスクの研究と軽減に特化している。より広範な研究所の一部として、大規模言語モデルや生成AIを含む高度なAI技術が、安全で倫理的かつ人間の価値観に沿った形で開発・利用されることを確実にするために取り組んでいる。この部門は、機械学習、深層学習、ニューラルネットワークなどの分野の専門知識を活用し、堅牢性、透明性、制御といった課題に取り組んでいる。
この安全性研究の取り組みは、2010年にDemis Hassabis、Shane Legg、Mustafa Suleymanによって設立されたDeepMindの創設時の使命に根ざしている。特にLeggはAI安全性の著名な提唱者であり、同社は長年にわたりこの分野に特化したチームとイニシアチブを維持してきた。2023年4月にGoogle Brainと合併してGoogle DeepMindが発足した後、安全性研究は統合・拡大され、業界における安全なAI開発の重要性の高まりを反映している。
歴史と変遷
DeepMindのAI安全性への取り組みは、2014年のGoogleによる買収に先立つ。2013年、同社はPongやBreakoutなどのゲームで人間の能力を超えたAIシステムに関する研究を発表し、これがGoogleの関心に寄与したとされている。買収後、DeepMindはAI倫理委員会を設立したが、そのメンバーは非公開のままであった。2017年、同社はDeepMind Ethics and Societyユニットを立ち上げ、AIの社会的・倫理的影響に焦点を当て、哲学者のNick Bostromがアドバイザーを務めた。
その後数年間、DeepMindの安全性研究は技術的成果とともに拡大した。2016年に囲碁世界チャンピオンのLee Sedolを破ったAlphaGoの開発は、強化学習の可能性を浮き彫りにし、AIの意思決定に関する疑問を提起した。その後のAlphaZeroやMuZeroなどのシステムは汎用ゲームプレイ能力を示し、AlphaFoldはタンパク質フォールディング予測で画期的な進歩を遂げ、これらすべてが安全性の考慮に情報をもたらした。
2023年のGoogle Brainとの合併により、2つの主要なAI研究グループが統合され、安全性に重点を置いた統一組織が誕生した。この動きは、OpenAIによるChatGPTの公開への対応の一環でもあり、AIリスクとガバナンスに対する業界全体の関心を加速させた。
主要な研究分野
DeepMind Safety Researchは、技術的および社会的なさまざまな課題に取り組んでいる。中核となる分野の1つはアライメントであり、AIシステムが人間の意図に沿って行動することを保証することを含む。これには、RLHFなどの人間のフィードバックを用いた強化学習の手法の開発や、堅牢性を向上させるための損失関数と最適化技術の研究が含まれる。
もう1つの焦点は解釈可能性であり、ニューラルネットワークがどのように意思決定を行うかを理解することを目指している。この分野の研究には、アテンションメカニズムやトランスフォーマーの分析、モデルの動作を可視化・説明するツールの開発が含まれる。安全性研究ではまた、敵対的堅牢性、モデルプルーニング、データ拡張を調査し、システムを予期しない入力に対してより耐性のあるものにしている。
さらに、この部門はAIの社会的影響、すなわち公平性、プライバシー、悪用の可能性などの問題を調査している。また、AnthropicやOpenAIなどの学術機関や他の組織と協力し、知識とベストプラクティスを共有している。
顕著な貢献
DeepMind Safety Researchは、いくつかの影響力のある論文とツールを生み出してきた。例えば、AlphaGoとその後継システムに関する同社の研究は、不確実性下での意思決定の研究に使用されている。2022年7月までに2億以上のタンパク質構造を予測したAlphaFoldプロジェクトは、科学的発見のためのAIの可能性を示したが、デュアルユースリスクに関する疑問も提起した。
この部門はまた、安全性ベンチマークと評価フレームワークの開発にも貢献してきた。2018年、DeepMindはQuake III ArenaをプレイするAIの訓練に関する研究を発表し、協力と競争に関する研究を含んでいた。最近では、このチームは大規模言語モデルの安全性に取り組んでおり、有害なコンテンツを生成する可能性が低いことを保証するためのGemmaオープンウェイトモデルを含む。
協力と影響
DeepMind Safety Researchは、ロンドンに本社を置き、米国、カナダ、フランス、ドイツ、スイスに研究センターを持つ、より広範なGoogle DeepMind組織内で活動している。この部門は、Google Cloudなどの他のAlphabet企業や、オックスフォード大学やMIT CSAILなどの外部パートナーと協力している。
2020年の時点で、DeepMindは1,000以上の論文を発表しており、そのうち13本はNatureまたはScienceに掲載されており、その多くが安全性関連のトピックを扱っている。この部門の研究は業界の慣行に影響を与えており、その研究者は政策議論や諮問機関に頻繁に参加している。しかし、AI安全性の分野は依然として進化しており、DeepMindは、より高性能な生成AIモデルの開発など、新たな課題に応じて研究課題を適応させ続けている。
今後の方向性
今後、DeepMind Safety Researchは、人工汎用知能（AGI）が達成された場合にそれが人類にとって有益であることを保証するという長期的な目標に取り組むことを目指している。これには、アライメントと制御のための技術的手法の進歩と、AIガバナンスに関する国際協力の促進が含まれる。この部門はまた、DeepMindがNHSと協力してきた医療や、AIが発見を加速させる一方で新たなリスクをもたらす科学研究などの分野におけるAIの影響も調査している。
2020年代半ばの時点で、この部門は安全なAIを開発するためのより広範な業界の取り組みの一部であり、AnthropicやOpenAIなどの競合他社や同業他社も安全性研究に多額の投資を行っている。機械学習技術、特に深層学習とニューラルネットワークの継続的な進化は、この分野の将来を形作る可能性が高い。