杰弗里·辛顿是英国裔加拿大认知心理学家和计算机科学家,被广泛认为是“深度学习教父”之一,与扬·勒昆和约书亚·本吉奥齐名。他在神经网络学习算法方面数十年的工作,其中大部分是在其他人认为该方法已走入死胡同时完成的,为2010年代的深度学习革命奠定了基础。
职业生涯
辛顿于1947年出生于伦敦,1978年在爱丁堡大学获得人工智能博士学位。在美国担任研究职位后,他定居于多伦多大学,并在那里度过了其学术生涯的大部分时间。1986年,他与戴维·鲁梅尔哈特和罗纳德·威廉姆斯合作,共同撰写了推广反向传播作为训练多层网络实用方法的论文,并继续开发该领域的核心技术,包括玻尔兹曼机、dropout正则化以及深度网络初始化和训练方法的改进。
该领域的转折点出现在2012年,当时辛顿的研究生亚历克斯·克里热夫斯基和伊利亚·苏茨克弗构建了AlexNet,这是一个深度卷积网络,以巨大优势赢得了ImageNet识别竞赛。这一结果说服了计算机视觉界的许多人,即深度、GPU训练的网络优于此前占主导地位的手工设计方法,并常被视为深度学习走向主流的时刻。谷歌随后不久收购了辛顿的小公司DNNresearch,他则在多伦多大学和谷歌大脑之间分配时间,后者后来并入谷歌深度思维。
离开谷歌与诺贝尔奖
2023年5月,辛顿从谷歌辞职,表示他希望自由谈论他所帮助创造的技术带来的风险,包括就业替代、虚假信息,以及对日益强大系统失去人类控制的长期担忧。他公开转向人工智能安全倡导,使他成为警告人工智能存在风险的最突出声音之一,这对于一位职业生涯大部分时间致力于让神经网络运转的研究者来说是一个显著转变。
辛顿与勒昆和本吉奥共同分享了2018年图灵奖,以表彰他们在深度学习方面的工作。2024年,他与约翰·霍普菲尔德共同获得诺贝尔物理学奖,“以表彰通过人工神经网络实现机器学习的基础性发现和发明”,这是当年更广泛的人工智能相关诺贝尔奖认可的一部分,相关详情见2024年人工智能诺贝尔奖一文。