David Kristjanson Duvenaud(1983년 출생)은 토론토 대학교의 캐나다 컴퓨터 과학자로, 확률적 머신 러닝, 생성형 AI, AI 안전성을 전문으로 연구하고 있다. 그는 2021년부터 CIFAR AI 석좌 교수이며, 2024년부터 Schwartz Reisman 기술 및 사회 석좌 교수로 재직 중이다. 그의 연구는 심층 생성 모델, 신경 상미분 방정식, 그리고 최근에는 고급 인공지능의 사회적 영향에 이르기까지 다양하다.
교육
Duvenaud는 매니토바주 위니펙 교외에서 태어났다. 그는 2006년 매니토바 대학교에서 컴퓨터 과학 학사 학위를, 2010년 브리티시 컬럼비아 대학교에서 Kevin P. Murphy의 지도 아래 컴퓨터 과학 석사 학위를 받았다. 그는 2014년 케임브리지 대학교에서 Carl Rasmussen과 Zoubin Ghahramani의 지도 아래 박사 학위를 취득했다. 하버드 대학교에서 Ryan P. Adams 그룹의 박사후 연구원으로 근무한 후, 2016년 토론토 대학교 교수진에 합류했다.
경력 및 연구
Duvenaud는 토론토 대학교 컴퓨터 과학 부교수이자 캐나다의 선도적인 인공지능 연구 기관인 Vector Institute의 창립 교수진이다. 그의 초기 연구는 분자 생성 모델과 신경 상미분 방정식을 포함한 심층 생성 모델에 초점을 맞췄다. 그의 연구 그룹은 2018년 NeurIPS 최우수 논문상을 수상한 연속 시간 정규화 흐름의 한 유형을 도입했다. 이 연구는 신경망이 연속 시간 역학을 모델링할 수 있게 하는 데 기여했으며, 머신 러닝 및 딥 러닝 분야에 응용되고 있다.
2023년, 대규모 언어 모델의 빠른 채택에 대응하여 Duvenaud는 연구 초점을 AI 안전성으로 전환했다. 그는 Anthropic에서 안식년을 보내며 Alignment Evaluations 팀을 이끌었다. 그곳에서 그는 탈옥(jailbreak) 식별과 모델의 은밀한 방해 행위 능력에 대한 평가 개발에 힘썼다. 그의 최근 연구는 "점진적 권력 상실(gradual disempowerment)" 개념을 다룬다. AI가 더욱 강력해짐에 따라 경제, 문화, 국가와 같은 대규모 사회 시스템이 점차 인간의 이익에 부합하지 않게 될 수 있다는 것이다. 이는 이러한 시스템이 인간의 필요와 정렬되는 것이 역사적으로 인간의 참여에 의존해 왔기 때문이며, AI가 이를 점점 더 불필요하게 만들고 있기 때문이다.
AI 안전성에 대한 기여
Duvenaud의 AI 안전성으로의 전환은 생성형 AI 커뮤니티 내에서 고급 시스템의 장기적 위험에 대한 광범위한 우려를 반영한다. Anthropic에서의 그의 연구는 트랜스포머 기반 모델의 바람직하지 않은 행동을 감지하는 평가 방법 개발에 기여했다. 그는 또한 AI가 인간의 주체성을 점진적으로 잠식할 가능성에 대해 저술했으며, 이는 정렬 및 RLHF에 대한 지속적인 논쟁과 연결되는 주제이다.
인정 및 소속
Duvenaud는 2021년부터 CIFAR AI 석좌 교수, 2024년부터 Schwartz Reisman 기술 및 사회 석좌 교수를 맡고 있다. 그는 토론토 대학교 및 Vector Institute와 관련되어 있다. 그의 연구는 2018년 NeurIPS 최우수 논문상으로 인정받았다. 그는 NeurIPS, ICML, ICLR과 같은 학회에 자주 기고하며, 그의 연구는 머신 러닝 커뮤니티에서 널리 인용된다.
주요 저작 및 영향
Duvenaud의 신경 상미분 방정식에 대한 초기 연구는 연속 시간 모델 및 잔차 네트워크에 대한 후속 연구에 영향을 미쳤다. 분자 생성 모델에 대한 그의 논문은 신약 개발 및 재료 과학에 응용된다. 최근 그의 AI 안전성 연구는 OpenAI 및 기타 조직에 배포된 시스템을 포함한 고급 AI 시스템의 위험을 평가하고 완화하는 방법에 대한 논의에 기여했다. 2025년 현재, 그는 토론토 대학교에서 확률적 모델링과 사회적 영향의 교차점에 초점을 맞춘 강의와 학생 지도를 계속하고 있다.