David Kristjanson Duvenaud (nascido em 1983) é um cientista da computação canadense na Universidade de Toronto, especializado em aprendizado de máquina probabilístico, IA generativa e segurança de IA. Ele é um CIFAR AI Chair desde 2021 e um Schwartz Reisman Chair em Tecnologia e Sociedade desde 2024. Sua pesquisa abrange modelos generativos profundos, equações diferenciais ordinárias neurais e, mais recentemente, as implicações sociais da inteligência artificial avançada.
Educação
Duvenaud nasceu em um subúrbio de Winnipeg, Manitoba. Ele recebeu um B.Sc. em ciência da computação pela Universidade de Manitoba em 2006 e um M.Sc. em ciência da computação pela Universidade da Colúmbia Britânica em 2010, sob a supervisão de Kevin P. Murphy. Ele obteve um PhD pela Universidade de Cambridge em 2014, sob a supervisão de Carl Rasmussen e Zoubin Ghahramani. Após uma posição de pós-doutorado na Universidade de Harvard, no grupo de Ryan P. Adams, ele ingressou no corpo docente da Universidade de Toronto em 2016.
Carreira e Pesquisa
Duvenaud é professor associado de ciência da computação na Universidade de Toronto e membro fundador do corpo docente do Vector Institute, um instituto canadense líder em pesquisa de inteligência artificial. Sua pesquisa inicial focou em modelos generativos profundos, incluindo modelos generativos de moléculas e equações diferenciais ordinárias neurais. Seu grupo introduziu um tipo de fluxo de normalização em tempo contínuo, que recebeu o prêmio de melhor artigo do NeurIPS em 2018. Este trabalho contribuiu para o desenvolvimento de redes neurais que podem modelar dinâmicas de tempo contínuo, com aplicações em aprendizado de máquina e aprendizado profundo.
Em 2023, respondendo à rápida adoção de grandes modelos de linguagem, Duvenaud mudou seu foco de pesquisa para a segurança de IA. Ele tirou uma licença sabática na Anthropic, onde liderou a equipe de Avaliações de Alinhamento. Lá, ele trabalhou na identificação de jailbreaks e no desenvolvimento de avaliações para a capacidade dos modelos de conduzir sabotagem de forma sorrateira. Seu trabalho recente aborda o conceito de "desempoderamento gradual": à medida que a IA se torna mais capaz, sistemas sociais em larga escala, como economias, culturas e estados, podem progressivamente deixar de servir aos interesses humanos. Isso ocorre porque o alinhamento desses sistemas com as necessidades humanas historicamente dependeu de sua confiança na participação humana, que a IA torna cada vez mais desnecessária.
Contribuições para a Segurança de IA
A mudança de Duvenaud para a segurança de IA reflete uma preocupação mais ampla dentro da comunidade de IA generativa sobre os riscos de longo prazo de sistemas avançados. Seu trabalho na Anthropic contribuiu para o desenvolvimento de métodos de avaliação para detectar comportamentos indesejáveis em modelos baseados em transformers. Ele também escreveu sobre o potencial da IA de erodir gradualmente a agência humana, um tema que se conecta a debates em andamento sobre alinhamento e RLHF no campo.
Reconhecimento e Afiliações
Duvenaud detém o CIFAR AI Chair desde 2021 e o Schwartz Reisman Chair em Tecnologia e Sociedade desde 2024. Ele é afiliado à Universidade de Toronto e ao Vector Institute. Sua pesquisa foi reconhecida com o prêmio de melhor artigo do NeurIPS em 2018. Ele é um contribuidor frequente em conferências como NeurIPS, ICML e ICLR, e seu trabalho é amplamente citado na comunidade de aprendizado de máquina.
Trabalhos Selecionados e Impacto
O trabalho inicial de Duvenaud sobre equações diferenciais ordinárias neurais influenciou pesquisas subsequentes em modelos de tempo contínuo e redes residuais. Seus artigos sobre modelos generativos de moléculas têm aplicações em descoberta de medicamentos e ciência de materiais. Mais recentemente, sua pesquisa em segurança de IA informou discussões sobre como avaliar e mitigar riscos de sistemas avançados de IA, incluindo aqueles implantados na OpenAI e em outras organizações. Em 2025, ele continua a ensinar e supervisionar estudantes na Universidade de Toronto, focando na interseção entre modelagem probabilística e impacto social.