David Kristjanson Duvenaud (né en 1983) est un informaticien canadien à l'Université de Toronto, spécialisé dans l'apprentissage automatique probabiliste, l'IA générative et la sécurité de l'IA. Il est titulaire d'une chaire CIFAR en IA depuis 2021 et d'une chaire Schwartz Reisman en technologie et société depuis 2024. Ses recherches couvrent les modèles génératifs profonds, les équations différentielles ordinaires neuronales et, plus récemment, les implications sociétales de l'intelligence artificielle avancée.
Formation
Duvenaud est né dans la banlieue de Winnipeg, au Manitoba. Il a obtenu un B.Sc. en informatique de l'Université du Manitoba en 2006 et une maîtrise en informatique de l'Université de la Colombie-Britannique en 2010, sous la supervision de Kevin P. Murphy. Il a obtenu un doctorat de l'Université de Cambridge en 2014 sous la supervision de Carl Rasmussen et Zoubin Ghahramani. Après un postdoctorat à l'Université Harvard dans le groupe de Ryan P. Adams, il a rejoint le corps professoral de l'Université de Toronto en 2016.
Carrière et recherche
Duvenaud est professeur agrégé en informatique à l'Université de Toronto et membre fondateur du corps professoral de l'Institut Vector, un institut canadien de premier plan pour la recherche en intelligence artificielle. Ses premières recherches se sont concentrées sur les modèles génératifs profonds, y compris les modèles génératifs de molécules et les équations différentielles ordinaires neuronales. Son groupe a introduit un type de flux de normalisation en temps continu, qui a reçu le prix du meilleur article NeurIPS en 2018. Ce travail a contribué au développement de réseaux de neurones capables de modéliser la dynamique en temps continu, avec des applications dans apprentissage automatique et apprentissage profond.
En 2023, en réponse à l'adoption rapide des grands modèles de langage, Duvenaud a réorienté ses recherches vers la sécurité de l'IA. Il a pris un congé sabbatique chez Anthropic, où il a dirigé l'équipe d'évaluations d'alignement. Là, il a travaillé sur l'identification des jailbreaks et le développement d'évaluations pour la capacité des modèles à mener secrètement des actions de sabotage. Ses travaux récents abordent le concept de « désautonomisation progressive » : à mesure que l'IA devient plus capable, les systèmes sociétaux à grande échelle tels que les économies, les cultures et les États peuvent cesser progressivement de servir les intérêts humains. Cela est dû au fait que l'alignement de ces systèmes avec les besoins humains a historiquement dépendu de leur recours à la participation humaine, que l'IA rend de plus en plus inutile.
Contributions à la sécurité de l'IA
La transition de Duvenaud vers la sécurité de l'IA reflète une préoccupation plus large au sein de la communauté de l'IA générative concernant les risques à long terme des systèmes avancés. Son travail chez Anthropic a contribué au développement de méthodes d'évaluation pour détecter les comportements indésirables dans les modèles basés sur transformers. Il a également écrit sur le potentiel de l'IA à éroder progressivement l'autonomie humaine, un thème qui se connecte aux débats en cours sur alignement et RLHF dans le domaine.
Reconnaissance et affiliations
Duvenaud détient la chaire CIFAR en IA depuis 2021 et la chaire Schwartz Reisman en technologie et société depuis 2024. Il est affilié à l'Université de Toronto et à l'Institut Vector. Ses recherches ont été reconnues par le prix du meilleur article NeurIPS en 2018. Il contribue fréquemment à des conférences telles que NeurIPS, ICML et ICLR, et ses travaux sont largement cités dans la communauté de l'apprentissage automatique.
Travaux sélectionnés et impact
Les premiers travaux de Duvenaud sur les équations différentielles ordinaires neuronales ont influencé la recherche ultérieure sur les modèles en temps continu et les réseaux résiduels. Ses articles sur les modèles génératifs de molécules ont des applications dans la découverte de médicaments et la science des matériaux. Plus récemment, ses recherches sur la sécurité de l'IA ont éclairé les discussions sur la manière d'évaluer et d'atténuer les risques des systèmes d'IA avancés, y compris ceux déployés chez OpenAI et d'autres organisations. À partir de 2025, il continue d'enseigner et de superviser des étudiants à l'Université de Toronto, en se concentrant sur l'intersection de la modélisation probabiliste et de l'impact sociétal.