David Kristjanson Duvenaud (nacido en 1983) es un informático canadiense en la Universidad de Toronto, especializado en aprendizaje automático probabilístico, IA generativa y seguridad de la IA. Es titular de una cátedra de IA de CIFAR desde 2021 y de una cátedra Schwartz Reisman en Tecnología y Sociedad desde 2024. Su investigación abarca modelos generativos profundos, ecuaciones diferenciales ordinarias neuronales y, más recientemente, las implicaciones sociales de la inteligencia artificial avanzada.
Educación
Duvenaud nació en los suburbios de Winnipeg, Manitoba. Obtuvo una licenciatura en ciencias de la computación en la Universidad de Manitoba en 2006 y una maestría en ciencias de la computación en la Universidad de Columbia Británica en 2010, supervisada por Kevin P. Murphy. Se doctoró en la Universidad de Cambridge en 2014 bajo la supervisión de Carl Rasmussen y Zoubin Ghahramani. Tras un puesto posdoctoral en la Universidad de Harvard en el grupo de Ryan P. Adams, se incorporó al profesorado de la Universidad de Toronto en 2016.
Carrera e investigación
Duvenaud es profesor asociado de ciencias de la computación en la Universidad de Toronto y miembro fundador del profesorado del Instituto Vector, un instituto canadiense líder en investigación de inteligencia artificial. Su investigación inicial se centró en modelos generativos profundos, incluidos modelos generativos de moléculas y ecuaciones diferenciales ordinarias neuronales. Su grupo introdujo un tipo de flujo de normalización en tiempo continuo, que recibió el premio al mejor artículo de NeurIPS en 2018. Este trabajo contribuyó al desarrollo de redes neuronales capaces de modelar dinámicas en tiempo continuo, con aplicaciones en aprendizaje automático y aprendizaje profundo.
En 2023, en respuesta a la rápida adopción de modelos de lenguaje grandes, Duvenaud cambió su enfoque de investigación hacia la seguridad de la IA. Tomó un año sabático en Anthropic, donde dirigió el equipo de Evaluaciones de Alineación. Allí trabajó en la identificación de jailbreaks y en el desarrollo de evaluaciones para la capacidad de los modelos de llevar a cabo sabotajes de manera encubierta. Su trabajo reciente aborda el concepto de "desempoderamiento gradual": a medida que la IA se vuelve más capaz, los sistemas sociales a gran escala, como las economías, las culturas y los estados, pueden dejar progresivamente de servir a los intereses humanos. Esto se debe a que la alineación de estos sistemas con las necesidades humanas ha dependido históricamente de su confianza en la participación humana, que la IA hace cada vez más innecesaria.
Contribuciones a la seguridad de la IA
El giro de Duvenaud hacia la seguridad de la IA refleja una preocupación más amplia dentro de la comunidad de IA generativa sobre los riesgos a largo plazo de los sistemas avanzados. Su trabajo en Anthropic contribuyó al desarrollo de métodos de evaluación para detectar comportamientos indeseables en modelos basados en transformers. También ha escrito sobre el potencial de la IA para erosionar gradualmente la agencia humana, un tema que se conecta con los debates en curso sobre alineación y RLHF en el campo.
Reconocimientos y afiliaciones
Duvenaud es titular de la cátedra de IA de CIFAR desde 2021 y de la cátedra Schwartz Reisman en Tecnología y Sociedad desde 2024. Está afiliado a la Universidad de Toronto y al Instituto Vector. Su investigación ha sido reconocida con el premio al mejor artículo de NeurIPS en 2018. Es un colaborador frecuente en conferencias como NeurIPS, ICML e ICLR, y su trabajo es ampliamente citado en la comunidad de aprendizaje automático.
Obras seleccionadas e impacto
El trabajo temprano de Duvenaud sobre ecuaciones diferenciales ordinarias neuronales ha influido en investigaciones posteriores sobre modelos de tiempo continuo y redes residuales. Sus artículos sobre modelos generativos de moléculas tienen aplicaciones en el descubrimiento de fármacos y la ciencia de materiales. Más recientemente, su investigación sobre seguridad de la IA ha informado discusiones sobre cómo evaluar y mitigar riesgos de sistemas de IA avanzados, incluidos los implementados en OpenAI y otras organizaciones. A partir de 2025, continúa enseñando y supervisando estudiantes en la Universidad de Toronto, centrándose en la intersección del modelado probabilístico y el impacto social.