デイビッド・クリストジャンソン・デュヴノー（1983年生まれ）は、トロント大学に所属するカナダ人のコンピューター科学者であり、確率的機械学習、生成AI、AI安全性を専門としている。2021年よりCIFAR AIチェア、2024年よりシュワルツ・ライスマン技術と社会チェアを務める。彼の研究は、深層生成モデル、ニューラル常微分方程式、そして最近では高度な人工知能の社会的影響に及んでいる。
教育
デュヴノーはマニトバ州ウィニペグ郊外で生まれた。2006年にマニトバ大学でコンピューター科学の理学士号を、2010年にブリティッシュコロンビア大学でケビン・P・マーフィーの指導の下、コンピューター科学の理学修士号を取得した。2014年にはケンブリッジ大学でカール・ラスムッセンとズービン・グラハマニの指導の下、博士号を取得した。ハーバード大学でライアン・P・アダムズのグループでの博士研究員を経て、2016年にトロント大学の教員となった。
経歴と研究
デュヴノーはトロント大学のコンピューター科学の准教授であり、カナダを代表する人工知能研究機関であるベクター研究所の創設メンバーでもある。彼の初期の研究は、分子の生成モデルやニューラル常微分方程式を含む深層生成モデルに焦点を当てていた。彼のグループは連続時間正規化フローを導入し、2018年にNeurIPS最優秀論文賞を受賞した。この研究は、連続時間ダイナミクスをモデル化できるニューラルネットワークの開発に貢献し、機械学習や深層学習への応用がある。
2023年、大規模言語モデルの急速な採用に対応して、デュヴノーは研究の焦点をAI安全性に移した。彼はAnthropicでサバティカルを取得し、アライメント評価チームを率いた。そこで彼は、脱獄の特定と、モデルが密かに妨害行為を行う能力の評価の開発に取り組んだ。彼の最近の研究は「段階的無力化」の概念に取り組んでいる。AIがより有能になるにつれて、経済、文化、国家などの大規模な社会システムが徐々に人間の利益に役立たなくなる可能性がある。これは、これらのシステムと人間のニーズとの整合性が、歴史的に人間の参加への依存に依存してきたためであり、AIはその参加をますます不要にしている。
AI安全性への貢献
デュヴノーのAI安全性への転向は、生成AIコミュニティ内での高度なシステムの長期的リスクに関する幅広い懸念を反映している。Anthropicでの彼の仕事は、トランスフォーマーベースのモデルにおける望ましくない行動を検出するための評価方法の開発に貢献した。彼はまた、AIが人間の主体性を徐々に侵食する可能性についても執筆しており、これはアライメントやRLHFに関する進行中の議論につながるテーマである。
受賞と所属
デュヴノーは2021年よりCIFAR AIチェア、2024年よりシュワルツ・ライスマン技術と社会チェアを務めている。彼はトロント大学とベクター研究所に所属している。彼の研究は2018年のNeurIPS最優秀論文賞で認められている。彼はNeurIPS、ICML、ICLRなどの会議への頻繁な貢献者であり、その仕事は機械学習コミュニティで広く引用されている。
主な業績と影響
デュヴノーのニューラル常微分方程式に関する初期の研究は、連続時間モデルや残差ネットワークのその後の研究に影響を与えた。分子の生成モデルに関する彼の論文は、創薬や材料科学への応用がある。最近では、彼のAI安全性研究は、OpenAIや他の組織に展開されているものを含む高度なAIシステムからのリスクを評価し軽減する方法に関する議論に情報を提供している。2025年現在、彼はトロント大学で確率モデリングと社会的影響の交差点に焦点を当てて、教鞭を執り、学生を指導し続けている。