요슈아 벤지오는 프랑스계 캐나다인 컴퓨터 과학자로, 제프리 힌턴 및 얀 르쿤과 함께 딥러닝을 실용적으로 만든 기초 작업으로 흔히 인정받는 세 명의 연구자 중 한 명이다. 그는 몬트리올 대학교의 교수이자, 세계 최대 규모의 학술 딥러닝 연구 기관 중 하나인 밀라(Mila)의 설립자이다.
연구 기여
1964년 파리에서 태어나 대부분 캐나다에서 성장한 벤지오는 맥길 대학교에서 박사 학위를 받은 후, 1993년 몬트리올 대학교에 합류했다. 1990년대와 2000년대를 통해, 신경망이 서포트 벡터 머신과 같은 방법에 비해 인기가 없었던 시기에도, 그의 연구실은 경사 기반 학습에 계속 주력하며, 현대 자연어 처리 전반에서 사용되는 단어 및 시퀀스 임베딩 기법을 예고한 초기 신경 확률적 언어 모델에 기여했다. 그의 학생들과 협력자들은 시퀀스 모델링에 주요 기여를 했으며, 그의 그룹은 2014년 벤지오 연구실 학생으로서 생성적 적대 신경망을 발명한 이언 굿펠로우를 배출했다.
벤지오는 힌턴 및 르쿤과 함께 "개념적 및 공학적 돌파구로 딥 신경망을 컴퓨팅의 핵심 구성 요소로 만든 공로"로 2018년 튜링상을 공동 수상했다. 르쿤과 달리, 벤지오는 일반적으로 고급 AI 능력을 무시하기보다는 심각한 위험의 원천으로 취급하는 점에서 힌턴과 더 가까운 입장을 견지해 왔다.
AI 안전성으로의 전환
2023년 이후, 벤지오는 그의 공개적 활동의 상당 부분을 AI 안전성 및 거버넌스에 할애해 왔다. 그는 2023년 3월 "거대 AI 실험 일시 중지" 서한(일시 중지 서한)의 서명자였으며, 이는 가장 강력한 모델의 훈련에 대한 일시적 중단을 촉구하는 내용이었다. 또한 그는 2023년 11월 블레츨리 선언 정상회의에서 비롯된 이니셔티브인 "첨단 AI 안전성에 관한 국제 과학 보고서"의 의장을 맡았으며, 이 보고서는 여러 정부의 의뢰를 받아 프론티어 AI 위험에 대한 전문가 의견을 종합하기 위해 설계되었다. 벤지오는 트랜스포머 아키텍처 기반 시스템에서 빠른 능력 향상을 주도하는 동일한 스케일링 추세가 통제 상실 시나리오의 타당성도 높인다고 주장해 왔으며, 더 강력한 국제적 조정, 의무적 안전 테스트 및 잠재적으로 구속력 있는 규제를 촉구해 왔다. 이는 그를 AI로 인한 실존적 위험과 단기적 피해 문제 모두에 대해 가장 정책적으로 관여하는 딥러닝 선구자 중 한 명으로 자리매김하게 했으며, 이는 정렬 연구라는 더 넓은 분야에서도 연구되는 영역이다. 그는 또한 신뢰할 수 있고, 비-에이전트적 추론 도구이지 자율적 행위자가 아닌"AI 과학자"에 대한 작업을 포함한 자신만의 기술적 방향을 제안해 왔으며, 이는 그의 연구 의제가 원시적 능력에서 점점 더 강력한 시스템의 안전한 배치로 전환되었음을 반영한다.