제프리 에베레스트 힌턴(Geoffrey Everest Hinton, 1947년 12월 6일 출생)은 영국계 캐나다인 컴퓨터 과학자, 인지 과학자, 인지 심리학자이다. 그는 인공지능 분야의 선도적인 인물로 널리 인정받고 있으며, 특히 인공 신경망에 대한 기초 연구로 "AI의 대부"라는 칭호를 얻었다. 그는 토론토 대학교의 명예 대학 교수(University Professor Emeritus)이다. 2013년부터 2023년까지 그는 구글 브레인과 대학에서 시간을 나누어 일했으며, 2023년 5월 AI 기술의 위험성에 대한 우려를 이유로 구글에서의 퇴사를 공개적으로 발표했다. 2017년에는 토론토에 있는 벡터 연구소(Vector Institute)를 공동 설립하고 최고 과학 고문이 되었다.
힌턴의 AI에 대한 기여는 광범위하고 영향력이 크다. 데이비드 루멜하트(David Rumelhart)와 로널드 J. 윌리엄스(Ronald J. Williams)와 함께 그는 1986년에 발표된 다층 신경망 훈련을 위한 Backpropagation 알고리즘을 대중화한 매우 많이 인용된 논문을 공동 집필했지만, 이 접근 방식을 처음 제안한 것은 아니었다. 그의 학생인 알렉스 크리제프스키(Alex Krizhevsky)와 일리야 수츠케버(Ilya Sutskever)와 공동으로 설계한 이미지 인식 신경망 AlexNet은 2012년 ImageNet 챌린지에서 우승하며 컴퓨터 비전의 돌파구를 마련했다. 그는 요슈아 벤지오(Yoshua Bengio) 및 얀 르쿤(Yann LeCun)과 함께 딥러닝 연구로 2018년 튜링상을 수상했으며, 존 홉필드(John Hopfield)와 함께 "인공 신경망을 이용한 머신러닝을 가능하게 한 기초 발견과 발명"으로 2024년 노벨 물리학상을 수상했다.
교육
힌턴은 1947년 12월 6일 영국 윔블던에서 태어나 브리스톨의 클리프턴 칼리지에서 교육을 받았다. 1967년 케임브리지 대학교 킹스 칼리지에 학부생으로 입학했다. 자연과학, 미술사, 철학 등 여러 분야를 전전한 끝에 1970년 실험 심리학 학사 학위를 취득했다. 그는 학업으로 돌아오기 전에 1년 동안 목공 견습을 했다. 1972년부터 1975년까지 에든버러 대학교에서 연구를 계속했으며, 1978년 상징적 AI 접근 방식을 신경망 접근 방식보다 선호했던 크리스토퍼 롱게트히긴스(Christopher Longuet-Higgins)의 지도 아래 인공지능 박사 학위를 받았다.
경력
박사 학위 후 힌턴은 처음에 서식스 대학교와 MRC 응용 심리학 부서에서 일했다. 영국에서 연구 자금을 확보하는 데 어려움을 겪은 후, 그는 미국 캘리포니아 대학교 샌디에이고와 카네기 멜론 대학교에서 일했다. 그는 유니버시티 칼리지 런던의 개츠비 자선 재단 계산 신경과학 부서의 창립 이사였다. 현재 그는 1987년부터 몸담아 온 토론토 대학교 컴퓨터 과학과의 명예 대학 교수로 재직 중이며, 1998년부터 2001년까지 유니버시티 칼리지 런던에서 보낸 기간을 제외하고 그곳에 계속 소속되어 있다.
캐나다에 도착한 후 힌턴은 1987년 캐나다 고등 연구소(CIFAR)의 첫 연구 프로그램인 인공지능, 로봇공학 및 사회의 펠로우로 임명되었다. 2004년 힌턴과 동료들은 CIFAR의 새로운 프로그램인 "신경 계산 및 적응 지각(NCAP)"의 시작을 성공적으로 제안했으며, 이 프로그램은 현재 "기계와 뇌의 학습"으로 명명되었다. 힌턴은 이후 10년 동안 NCAP를 이끌었다. 이 프로그램의 구성원에는 요슈아 벤지오와 얀 르쿤이 있으며, 힌턴은 이들과 함께 2018년 ACM A.M. 튜링상을 수상하게 된다. 세 명의 튜링상 수상자는 모두 현재 CIFAR의 기계와 뇌의 학습 프로그램의 구성원으로 활동하고 있다.
힌턴은 2012년 교육 플랫폼 Coursera에서 신경망에 대한 무료 온라인 강좌를 가르쳤다. 그는 2012년 토론토 대학교 컴퓨터 과학과에서 두 명의 대학원생인 알렉스 크리제프스키와 일리야 수츠케버와 함께 DNNresearch Inc.를 공동 설립했다. 2013년 3월, 구글은 DNNresearch Inc.를 4400만 달러에 인수했으며, 힌턴은 "대학 연구와 구글에서의 일 사이에서 시간을 나누겠다"고 계획했다.
2023년 5월, 힌턴은 구글에서 사임한다고 공개적으로 발표했다. 그는 AI의 위험성에 대해 자유롭게 발언하고 싶다고 결정 이유를 설명하면서, 자신의 평생 작업에 대해 부분적으로 후회한다고 덧붙였다.
그의 그룹에서 배출한 주목할 만한 전 박사 과정 학생 및 박사후 연구원으로는 피터 데이언(Peter Dayan), 샘 로웨이스(Sam Roweis), 맥스 웰링(Max Welling), 리처드 제멜(Richard Zemel), 브렌던 프레이(Brendan Frey), 래드포드 M. 닐(Radford M. Neal), 예 화이 테(Yee Whye Teh), 루슬란 살라쿠트디노프(Ruslan Salakhutdinov), 일리야 수츠케버, 얀 르쿤, 알렉스 그레이브스(Alex Graves), 주빈 가라마니(Zoubin Ghahramani), 피터 피츠휴 브라운(Peter Fitzhugh Brown)이 있다.
연구
힌턴의 연구는 기계 학습, 기억, 지각, 기호 처리를 위한 신경망 사용에 관한 것이다. 그는 200편 이상의 동료 검토 출판물을 저술하거나 공동 저술했다.
1980년대에 힌턴은 카네기 멜론 대학교의 "병렬 분산 처리" 그룹의 일원이었으며, 여기에는 테렌스 세즈노스키(Terrence Sejnowski), 프랜시스 크릭(Francis Crick), 데이비드 루멜하트, 제임스 매클렐런드(James McClelland)와 같은 주목할 만한 과학자들이 포함되어 있었다. 이 그룹은 AI 겨울 동안 연결주의 접근 방식을 선호했다. 그들의 연구 결과는 두 권짜리 책으로 출판되었다. 힌턴이 채택한 연결주의 접근 방식은 논리와 문법과 같은 영역의 능력이 신경망의 매개변수에 인코딩될 수 있으며, 신경망이 데이터에서 이를 학습할 수 있다고 제안한다. 반면 상징주의자들은 지식과 규칙을 AI 시스템에 명시적으로 프로그래밍하는 것을 주장했다.
1985년 힌턴은 데이비드 애클리(David Ackley)와 테리 세즈노스키와 함께 볼츠만 머신을 공동 발명했다. 신경망 연구에 대한 그의 다른 기여로는 분산 표현, 시간 지연 신경망, 전문가 혼합, 헬름홀츠 머신, 전문가 곱 등이 있다. 제프리 힌턴의 연구에 대한 접근 가능한 소개는 1992년 9월과 1993년 10월 Scientific American에 실린 그의 기사에서 찾을 수 있다. 1995년 힌턴과 동료들은 인식과 생성을 위한 별도의 경로를 가진 신경망이 번갈아 가며 "깨어 있는" 단계와 "잠자는" 단계로 훈련되는 깨우기-잠자기 알고리즘을 제안했다. 2007년 힌턴은 "이미지 변환의 비지도 학습"이라는 제목의 비지도 학습 논문을 공동 저술했다. 2008년에는 로렌스 반 데르 마텐(Laurens van der Maaten)과 함께 시각화 방법 t-SNE를 개발했다.
힌턴이 UC 샌디에이고에서 박사후 연구원으로 있을 때, 데이비드 루멜하트, 힌턴, 로널드 J. 윌리엄스는 역전파 알고리즘을 다층 신경망에 적용했다. 그들의 실험은 이러한 네트워크가 유용한 내부 표현을 학습할 수 있음을 보여주었다. 1986년에 발표된 이 연구는 신경망에 대한 관심을 되살리는 데 중요한 역할을 했으며 현대 딥러닝의 기초를 마련했다.
AlexNet과 딥러닝 돌파구
2012년 힌턴과 그의 학생 알렉스 크리제프스키와 일리야 수츠케버는 ImageNet 대규모 시각 인식 챌린지에서 이미지 분류 정확도를 극적으로 향상시킨 심층 합성곱 신경망 AlexNet을 설계했다. AlexNet의 성공은 대규모 데이터와 GPU 가속 훈련에서 딥러닝의 힘을 입증했으며, 컴퓨터 비전 및 기타 분야 전반에 걸쳐 딥러닝의 빠른 채택을 촉발했다. 이 돌파구는 종종 AI 역사의 전환점으로 간주되며, 산업과 학계에서 심층 신경망의 광범위한 사용으로 이어졌다.
수상 및 영예
힌턴은 경력 전반에 걸쳐 수많은 상과 영예를 받았다. 2018년에는 딥러닝에 대한 기여로 요슈아 벤지오 및 얀 르쿤과 함께 종종 "컴퓨팅의 노벨상"으로 불리는 ACM A.M. 튜링상을 수상했다. 2024년에는 인공 신경망을 이용한 머신러닝을 가능하게 한 기초 발견과 발명으로 존 홉필드와 함께 노벨 물리학상을 수상했다. 그는 또한 왕립학회 회원이자 캐나다 훈장 동반자(Companion of the Order of Canada)이며, 그 외에도 여러 영예를 안았다.
AI 위험에 대한 견해
2023년 5월, 힌턴은 "AI의 위험에 대해 자유롭게 발언"하기 위해 구글에서 사임한다고 발표했다. 그는 악의적인 행위자에 의한 의도적 오용, 기술적 실업, 인공 일반 지능으로 인한 실존적 위험에 대해 우려를 표명했다. 그는 최악의 결과를 피하기 위해 안전 지침을 마련하려면 AI 사용 경쟁자들 간의 협력이 필요하다고 지적했다. 노벨상을 받은 후 그는 인간보다 더 똑똑한 AI 시스템을 제어하는 방법을 알아내기 위한 AI 안전에 대한 긴급 연구를 촉구했다.
유산
제프리 힌턴의 연구는 인공지능 분야에 지대한 영향을 미쳤다. 신경망과 딥러닝에 대한 그의 선구적인 연구는 이미지 인식, 음성 인식, 자연어 처리 및 기타 많은 응용 분야에서 돌파구를 가능하게 했다. 그는 동시대에서 가장 영향력 있는 컴퓨터 과학자 중 한 명으로 널리 간주되며, 그의 학생과 협력자들은 전 세계 주요 AI 연구 노력을 이끌고 있다. 그의 유산은 그가 개발한 알고리즘과 모델뿐만 아니라 그가 훈련하고 영감을 준 연구자 세대에도 있다.