人類の未来研究所（FHI）は、2005年から2024年まで活動したオックスフォード大学の学際的研究センターである。人類の長期的な未来に関する問題、特に実存的リスクと高度な人工知能の発展に焦点を当てていた。哲学者のニック・ボストロムによって設立されたこの研究所は、人類文明の存続や長期的な可能性を脅かす可能性のある地球規模の課題に、厳密な学術的調査を適用することを目指していた。
FHIは、実存的リスク研究という学術分野の先駆者であった。その活動は、哲学、数学、コンピュータ科学を組み合わせて、AI、バイオテクノロジー、その他の分野を含む新興技術からの潜在的な危険を分析するものであった。また、この研究所は、この分野が広く確立される以前から、AI安全性研究の発展にも貢献した。
設立と発展
FHIは2005年にオックスフォード大学に設立され、当初はジェームズ・マーティン21世紀スクールの一部であった。その後、大学の哲学部とオックスフォード・マーティン・スクールに組み込まれた。ニック・ボストロムが初代所長を務め、研究所は哲学、コンピュータ科学、政治学などの分野からの研究者からなる学際的なグループへと成長した。約20年にわたり、FHIは未来生命研究所やレバーヒューム財団などの組織から資金を集めた。
この研究所は、AIシステムからの実存的リスクに早期から持続的に注目したことで知られており、それはトランスフォーマー型言語モデルや深層ニューラルネットワークといった話題が学界で注目されるずっと前のことだった。その研究者たちは、有益なAIの成果を確保するには、積極的な安全性研究と慎重なガバナンスが必要であると最初に主張した人々の一人であった。
主な貢献と研究分野
FHIは、AIリスクに関する影響力のある研究を発表しており、単独行動者の呪い、討論によるAI安全性、そして「知能爆発」の概念に関する論文が含まれる。ニック・ボストロムの2014年の著書『スーパーインテリジェンス：超知性が人類を脅かす』は、研究所で行われた研究から生まれたものであり、シリコンバレーや政策立案者の間で広く読まれた。
また、研究所は核戦争、パンデミック、機械学習技術の悪用など、他の実存的リスクについても研究した。FHIの研究者は「AIからの実存的リスク」研究アジェンダの策定に尽力し、後にその一部はOpenAI、Anthropic、Google DeepMindなどの主要なAI組織に移り、そこで安全性の原則を実際のシステムに適用した。
著名な人物とパートナーシップ
FHIは、世界中の様々な学者や機関と協力した。その研究者には、効果的利他主義運動に貢献し、終末論的議論について執筆した哲学者のトビー・オード、経済学者でAI安全性研究者の（カーシュティン・キャサリン・ダイチ）、コンピュータ科学者のスチュアート・ラッセルなどがいた。これらの協力により、FHIの考えが査読を受け、より広い科学的議論に統合されることが保証された。
特筆すべきことに、FHIは、人類の未来に関する実存的リスク研究センター、未来生命研究所、レバーヒューム未来知能センターなどの二元的な学際センターと協力した。これらのパートナーシップは、リスク軽減のためのデータ収集、モデリング、意思決定理論的アプローチを促進した。
閉鎖と遺産
人類の未来研究所は2024年に活動を停止し、その閉鎖はニック・ボストロムの学術メールで発表された。閉鎖の正確な理由は完全には明らかにされていないが、約20年を経て、このような学際的部門への継続的な資金提供が課題となったことが示唆されている。研究所の閉鎖はその影響を消し去るものではない。実存的リスクと安全なAIに関するその研究は、現在も学術的・産業的実践の両方に影響を与え続けている。
今日、実存的リスクの概念は、いくつかの大学で受け入れられた研究分野となっており、FHIの元スタッフの多くは、安全性重視の組織で研究職に就き続けている。研究所の将来を見据えた実証的分析への重点は、大規模言語モデルの急激な台頭に先立つAI安全性研究のアジェンダを形成したと一般に評価されている。
外部からの認識と批判
一部の批評家は、FHIが変革的AIに焦点を当てることで、より差し迫った社会的課題を軽視していると疑問視し、また他の人々は絶滅の可能性に関する主張の一部に異議を唱えた。しかし、全体的な見方としては、FHIが破滅的なAIリスクが真剣な学術研究に値するという考えを正当化するのに貢献し、AI倫理と政策へのその貢献は一般的に極めて重要であると見なされている。
参考文献
- ボストロム、ニック。2019年。「実存的リスク：理論、分野、そして課題」。ビュンガーらとの対談にて。
- 人類の未来研究所（オックスフォードの公式ページ、アーカイブ済み）。
- ニック・ボストロムによる閉鎖メール、2024年2月。