ヨシュア・ベンジオは、フランス系カナダ人のコンピューター科学者であり、ジェフリー・ヒントンやヤン・ルカンと並んで、深層学習を実用的にした基礎研究で広く評価されている3人の研究者の1人である。彼はモントリオール大学の教授であり、世界最大級の学術的な深層学習研究機関であるMilaの創設者でもある。
研究貢献
1964年にパリで生まれ、主にカナダで育ったベンジオは、マギル大学で博士号を取得した後、1993年にモントリオール大学に加わった。1990年代から2000年代にかけて、ニューラルネットワークがサポートベクターマシンなどの手法に比べて不人気だった時期にも、彼の研究室は勾配ベースの学習に取り組み続け、現代の自然言語処理で使われる単語や系列の埋め込み技術を先取りする初期のニューラル確率言語モデルに貢献した。彼の学生や共同研究者は系列モデリングに大きな貢献を果たし、彼のグループは2014年にベンジオ研究室の学生として生成的敵対ネットワークを発明したイアン・グッドフェローを育成した。
ベンジオは2018年、ヒントンとルカンとともに、「深層ニューラルネットワークをコンピューティングの重要な構成要素にした概念的および工学的な突破口」に対してチューリング賞を共同受賞した。ルカンとは異なり、ベンジオは概してヒントンに近い立場で、高度なAI能力を深刻なリスクの源として扱い、それを軽視することはなかった。
AI安全性への転向
2023年以降、ベンジオは公的な活動の多くをAI安全性とガバナンスに注いでいる。彼は2023年3月の「巨大AI実験の一時停止」書簡（一時停止書簡）の署名者であり、最も強力なモデルの訓練の一時停止を求めた。また、2023年11月のブレッチリー宣言サミットから生まれ、複数の政府が委託してフロンティアAIリスクに関する専門家の見解を統合することを目的とした「高度なAIの安全性に関する国際科学報告書」の議長も務めた。
ベンジオは、トランスフォーマーアーキテクチャに基づくシステムの急速な能力向上を促す同じスケーリング傾向が、制御喪失シナリオの可能性も高めると主張し、より強力な国際協調、義務的な安全性テスト、場合によっては拘束力のある規制を求めている。これにより、彼はAIによる実存的リスクと短期的な害の両方に関する問題で、最も政策に関与する深層学習の先駆者の1人に位置づけられており、この分野はアライメント研究の広範な領域でも研究されている。彼はまた、自律的な主体ではなく、信頼できる非エージェント的な推論ツールとして設計された「AI科学者」に関する研究など、独自の技術的方向性も提案しており、これは彼の研究課題が生の能力から、ますます強力なシステムの安全な展開へと移行していることを反映している。