Connor Leahyは、大規模言語モデルに関する研究と、高度なAIのリスクに関する提唱で知られるドイツ系アメリカ人の人工知能研究者であり起業家である。彼は、初期のオープンソース言語モデルを生み出した集団であるEleutherAIを共同設立し、後にAI安全性研究企業であるConjectureを設立して、2026年までCEOを務めた。2026年現在、彼は人工超知能による絶滅リスクの防止に焦点を当てた非営利団体ControlAIの米国ディレクターを務めている。
Leahyは、高度なAIによる人類絶滅の可能性について警告する著名な声として知られている。彼はカナダ下院で証言し、2023年の初回AI安全性サミットに参加した。彼の公の発言は、強力なAIシステムの予測不可能性と政府の監視の必要性をしばしば強調している。
幼少期と教育
Leahyはドイツで育ち、後に米国に移住した。彼は大学で学び、余暇に機械学習モデルの実験を始めた。2019年にまだ学生だった頃、彼は寮の部屋でOpenAIのGPT-2をリバースエンジニアリングした。当時、完全なモデルは組織によって当初公開が差し控えられていた。この初期のプロジェクトは、大規模言語モデルの内部動作とその社会的影響への彼の関心を呼び起こした。
キャリアと研究
2020年7月、LeahyはSid BlackとLeo Gaoと共にEleutherAIを共同設立し、当初はGPT-3をオープンソース環境で再現することに焦点を当てた。共同リーダーとしての在任中、EleutherAIは初期のオープンソース大規模言語モデルとデータセットのいくつかを生み出した。これには、2020年12月のThe Pile、2021年3月のGPT-Neo、2021年6月のGPT-J-6B、2022年2月のGPT-NeoX-20Bが含まれる。GPT-J-6Bはリリース時点で世界最大のオープンソースGPT-3スタイル言語モデルであり、AI研究コミュニティにとって重要なマイルストーンとなった。
2022年3月、LeahyはAI安全性研究企業であるConjectureを共同設立し、CEOとして率いた。同社の表明された使命は、応用AIアライメント研究をスケールさせることであり、強力なAIシステムが人間の意図に従って行動することを保証するという課題に対処することを目指していた。Leahyは、アライメント問題の完全な解決策としての人間からのフィードバックによる強化学習に対して懐疑的な見解を示している。彼は強力なAIシステムの推論を「異質なもの」と表現し、RLHFのような技術は非人間的な思考プロセスを単に覆い隠すだけかもしれないと述べている。彼は「スマイリーフェイスの仮面」という比喩を用いて、予期しないプロンプトの下でそれが滑り落ち、彼が「狂気の巨大な下腹部」と呼ぶものを露呈する可能性があると説明している。
提唱と公的関与
2023年3月、LeahyはFuture of Life Instituteからの公開書簡の署名者の一人であり、「すべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を少なくとも6か月間直ちに一時停止するよう」求めた。この書簡は広く注目を集め、AI開発のペースに関する議論を引き起こした。2023年5月、彼はAIリスクに関する声明の署名者の一人となった。これは、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と述べる一文の宣言である。この声明には、ノーベル賞受賞者、AI研究者、OpenAI、Anthropic、Google DeepMindなどの主要AI企業のCEOを含む数百人の著名人が署名した。
2023年11月、Leahyは英国で開催された初回AI安全性サミットでの講演に招待された。彼は、サミットが人間の能力を超えるAIシステムからのリスクに十分に対処できないだろうとの懸念を表明し、そのようなシステムが適切な制御なしに構築された場合、「未来は彼らのものとなり、私たちのものではない」と主張した。彼は非営利団体ControlAIと協力して、政府に対し汎用人工知能の開発の一時停止を実施するよう提唱し、主要なAI企業が政府の監視と規制を回避しようとしていることを批判した。
後期のキャリア
2026年3月、Leahyは回顧録でConjectureプロジェクトが終了に近づいていることを発表し、ControlAIの米国ディレクターとして参加することを明らかにした。この役割は以前アドバイザーとして務めていた。ControlAIでの彼の仕事は、人工超知能のリスクに関する政策提唱と公教育に焦点を当てている。彼はAI安全性について執筆と公の講演を続け、「Expedition to the Far Lands」というタイトルのSubstackニュースレターを維持している。
関連項目
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell