David Kristjanson Duvenaud (* 1983) ist ein kanadischer Informatiker an der University of Toronto, der sich auf probabilistisches maschinelles Lernen, generative KI und KI-Sicherheit spezialisiert hat. Seit 2021 ist er CIFAR-KI-Lehrstuhlinhaber und seit 2024 Schwartz-Reisman-Lehrstuhlinhaber für Technologie und Gesellschaft. Seine Forschung umfasst tiefe generative Modelle, neuronale gewöhnliche Differentialgleichungen und in jüngerer Zeit die gesellschaftlichen Auswirkungen fortgeschrittener künstlicher Intelligenz.
Bildung
Duvenaud wurde in einem Vorort von Winnipeg, Manitoba, geboren. Er erhielt 2006 einen B.Sc. in Informatik von der University of Manitoba und 2010 einen M.Sc. in Informatik von der University of British Columbia unter der Betreuung von Kevin P. Murphy. Er promovierte 2014 an der University of Cambridge unter der Aufsicht von Carl Rasmussen und Zoubin Ghahramani. Nach einer Postdoktorandenstelle an der Harvard University in der Gruppe von Ryan P. Adams trat er 2016 der Fakultät der University of Toronto bei.
Karriere und Forschung
Duvenaud ist außerordentlicher Professor für Informatik an der University of Toronto und Gründungsmitglied der Fakultät am Vector Institute, einem führenden kanadischen Institut für KI-Forschung. Seine frühe Forschung konzentrierte sich auf tiefe generative Modelle, einschließlich generativer Modelle von Molekülen und neuronaler gewöhnlicher Differentialgleichungen. Seine Gruppe führte eine Art kontinuierlicher Normalisierungsflüsse ein, die 2018 den NeurIPS-Preis für das beste Papier erhielt. Diese Arbeit trug zur Entwicklung von neuronalen Netzen bei, die kontinuierliche Zeitdynamik modellieren können, mit Anwendungen im maschinellen Lernen und Deep Learning.
Im Jahr 2023, als Reaktion auf die schnelle Verbreitung von großen Sprachmodellen, verlagerte Duvenaud seinen Forschungsschwerpunkt auf die Sicherheit von KI. Er nahm ein Sabbatical bei Anthropic, wo er das Team für Alignment-Bewertungen leitete. Dort arbeitete er daran, Jailbreaks zu identifizieren und Bewertungen für die Fähigkeit von Modellen zu entwickeln, heimlich Sabotage zu betreiben. Seine jüngste Arbeit befasst sich mit dem Konzept der „schrittweisen Entmachtung“: Da KI immer leistungsfähiger wird, könnten groß angelegte gesellschaftliche Systeme wie Volkswirtschaften, Kulturen und Staaten zunehmend aufhören, menschlichen Interessen zu dienen. Dies liegt daran, dass die Ausrichtung dieser Systeme an menschlichen Bedürfnissen historisch von ihrer Abhängigkeit von menschlicher Beteiligung abhing, die KI zunehmend überflüssig macht.
Beiträge zur KI-Sicherheit
Duvenauds Wechsel zur KI-Sicherheit spiegelt eine breitere Sorge innerhalb der generativen KI-Gemeinschaft über die langfristigen Risiken fortgeschrittener Systeme wider. Seine Arbeit bei Anthropic trug zur Entwicklung von Bewertungsmethoden zur Erkennung unerwünschter Verhaltensweisen in Transformer-basierten Modellen bei. Er hat auch über das Potenzial von KI geschrieben, die menschliche Handlungsfähigkeit allmählich zu untergraben, ein Thema, das mit laufenden Debatten über Alignment und RLHF in diesem Bereich verbunden ist.
Anerkennung und Zugehörigkeiten
Duvenaud ist seit 2021 Inhaber des CIFAR-KI-Lehrstuhls und seit 2024 des Schwartz-Reisman-Lehrstuhls für Technologie und Gesellschaft. Er ist mit der University of Toronto und dem Vector Institute verbunden. Seine Forschung wurde mit dem NeurIPS-Preis für das beste Papier 2018 ausgezeichnet. Er ist ein häufiger Beitragender zu Konferenzen wie NeurIPS, ICML und ICLR, und seine Arbeit wird in der maschinellen Lern-Gemeinschaft weithin zitiert.
Ausgewählte Arbeiten und Wirkung
Duvenauds frühe Arbeit über neuronale gewöhnliche Differentialgleichungen hat die spätere Forschung zu kontinuierlichen Zeitmodellen und Residualnetzen beeinflusst. Seine Arbeiten über generative Modelle von Molekülen haben Anwendungen in der Arzneimittelforschung und Materialwissenschaft. In jüngerer Zeit haben seine KI-Sicherheitsforschungen Diskussionen darüber informiert, wie Risiken fortgeschrittener KI-Systeme bewertet und gemindert werden können, einschließlich derer, die bei OpenAI und anderen Organisationen eingesetzt werden. Ab 2025 lehrt und betreut er weiterhin Studierende an der University of Toronto, mit einem Fokus auf der Schnittstelle von probabilistischer Modellierung und gesellschaftlicher Wirkung.