토론토 대학교(U of T)는 캐나다 온타리오주 토론토에 위치한 공립 연구 대학으로, 인공지능(AI) 연구의 글로벌 선두주자이다. 이 대학의 기계 학습 및 심층 학습 분야 기여는 기초적이며, 현대 신경망 시스템을 뒷받침하는 핵심 기술 개발을 포함한다. 이 대학의 AI 연구는 초기 이론적 발전부터 현재의 생성형 AI 및 대규모 언어 모델 분야의 대규모 프로젝트까지 수십 년에 걸쳐 있다.
U of T의 AI 연구는 세 개의 캠퍼스 - 세인트 조지, 미시소거, 스카버러 - 에 분산되어 있으며, 세인트 조지 캠퍼스가 주요 허브 역할을 한다. 이 대학의 학제 간 접근 방식은 컴퓨터 과학, 공학, 의학, 사회 과학을 통합하여 전 세계적으로 채택된 혁신을 육성한다. 교수진과 동문에는 이 분야를 형성한 선구자들이 포함되어 있으며, 업계 리더와의 파트너십은 연구의 실용적 적용으로의 전환을 가속화했다.
역사적 기반
이 대학의 AI 유산은 1980년대 카네기 멜론 대학교의 교수였던 제프리 힌튼이 U of T로 옮겨와 심층 학습 연구의 중심지로 자리 잡으면서 시작되었다. 2012년, 힌튼과 그의 학생들인 알렉스 크리제프스키와 일리야 수츠케버가 발표한 획기적인 논문은 이미지 인식을 극적으로 개선한 심층 신경망을 입증하며 현대 AI 붐을 촉발했다. 잔차 네트워크 및 드롭아웃 기법을 사용한 이 연구는 이후 트랜스포머 아키텍처의 발전을 위한 토대를 마련했다.
U of T는 또한 아담 최적화 및 배치 정규화 개발에 기여했으며, 이는 현재 신경망 훈련의 표준 알고리즘이다. 이러한 혁신은 레이어 정규화 및 가중치 초기화 방법과 함께 이 대학에서 정교화되었으며 기계 학습 프레임워크에서 널리 사용된다. 2017년 캐나다 정부와 업계의 지원으로 설립된 이 대학의 벡터 연구소는 연구 강국으로서의 역할을 더욱 공고히 했다.
주요 연구 분야
U of T의 현재 연구는 여러 AI 하위 분야에 걸쳐 있다. 심층 학습에서 교수진은 번역 및 요약과 같은 기계 학습 작업에 필수적인 시퀀스-투-시퀀스 모델 및 인코더-디코더 아키텍처를 연구한다. 멀티 헤드 어텐션 및 위치 인코딩에 대한 연구는 오픈AI 및 앤트로픽이 개발한 것과 같은 대규모 언어 모델을 구동하는 트랜스포머 모델의 진화에 기여했다.
이 대학은 또한 강화 학습 및 커리큘럼 학습을 탐구하며, 로봇 공학 및 자율 시스템에 응용한다. 모델 가지치기 및 그래디언트 클리핑에 대한 연구는 AI를 더 효율적이고 확장 가능하게 만드는 것을 목표로 한다. 또한 U of T는 손실 함수 및 온도 스케일링을 연구하여 모델 보정 및 신뢰성을 개선하고 생성형 AI 배포의 과제를 해결한다.
주요 교수진 및 동문
U of T는 수많은 영향력 있는 AI 연구자들의 본거지였다. 아론 쿠빌 교수는 밀라의 공동 설립자로서 심층 학습 이론에 기여했다. 전 교수인 사미 벵지오는 신경망 최적화 연구로 알려져 있다. 동문에는 오픈AI의 공동 설립자인 일리야 수츠케버와 구글 브레인 및 바이두 AI를 이끈 앤드류 응이 포함된다. 이 대학의 AI 분야 튜링상 수상자로는 제프리 힌튼과 요슈아 벵지오가 있으며, 둘 다 기초적 기여로 인정받았다.
다른 주목할 만한 인물로는 강화 학습의 선구자인 리처드 서튼과 아담 최적화를 공동 개발한 지미 바가 있다. 이 대학의 교수진에는 자율 주행 및 컴퓨터 비전에 중점을 둔 라켈 우르타순과 생성 모델 연구로 알려진 그레이엄 테일러도 포함된다. 이 연구자들은 현재 구글 딥마인드, 아마존 AI, 마이크로소프트 리서치와 같은 기업에서 AI 노력을 이끄는 수세대의 학생들을 멘토링했다.
업계 협력
U of T는 기술 업계와 강력한 유대 관계를 유지하며 지식 전환과 혁신을 촉진한다. 벡터 연구소는 엔비디아, 인텔, AMD와 협력하여 하드웨어 최적화 심층 학습 알고리즘을 개발한다. 오픈AI 및 앤트로픽과의 파트너십은 대규모 언어 모델 안전 및 정렬에 대한 공동 연구로 이어졌다. 이 대학은 또한 구글 클라우드 및 아마존 웹 서비스와 협력하여 AWS 트레이니엄 및 애저 플랫폼을 포함한 확장 가능한 AI 인프라를 구축한다.
이러한 협력은 부분적으로 U of T 연구에서 비롯된 텐서플로우 및 파이토치와 같은 실용적인 도구를 생산했다. 이 대학의 ai-hub 인큐베이터는 스타트업을 지원하며, creative-destruction-lab은 기업가 정신을 육성한다. 업계 자금은 AI 및 윤리 연구를 수용하는 schwartz-reisman-innovation-centre를 포함한 새로운 연구 시설 건설을 가능하게 했다.
영향 및 인정
U of T의 AI 연구는 의료 진단부터 자율 주행 차량까지 사회에 깊은 영향을 미쳤다. 의료 영상에 대한 연구는 암 탐지를 개선했으며, 자연어 처리 시스템은 통신 도구를 향상시킨다. 이 대학의 컴퓨터 비전 기여는 자율 주행 자동차 기술에 사용되며, 동문들은 웨이모 및 테슬라 오토파일럿에 참여하고 있다.
2026년 현재, U of T는 13명의 노벨상 수상자와 6명의 튜링상 수상자를 배출했으며, 그중 다수가 AI 관련 분야이다. 이 대학의 ai-society 및 벡터 연구소는 글로벌 전문가를 끌어들이는 연례 회의를 개최한다. 2023년 캐나다 정부의 2억 캐나다 달러 보조금을 포함한 연구 자금은 기초 모델 및 AI 윤리 분야의 야심찬 프로젝트를 지원한다. U of T의 영향력은 알고리즘의 광범위한 채택과 학계 및 업계 전반에 걸친 동문들의 리더십 위치에서 분명하게 드러난다.
향후 방향
앞으로 U of T는 AI 안전 및 해석 가능한 AI에 중점을 두고 편향과 투명성에 대한 우려를 해결하고 있다. 연구자들은 모델을 더 책임 있게 만들기 위해 인과 추론 방법 및 설명 가능한 AI 도구를 개발하고 있다. 이 대학은 또한 양자 기계 학습 및 뉴로모픽 컴퓨팅을 탐구하여 인공지능의 경계를 넓히는 것을 목표로 한다. 강력한 기반과 지속적인 투자로 U of T는 AI의 미래를 형성하는 데 중심적인 역할을 계속할 준비가 되어 있다.