杰弗里·埃弗里斯特·辛顿(生于1947年12月6日)是英国裔加拿大计算机科学家、认知科学家和认知心理学家。他因在人工神经网络方面的开创性工作而广受认可,并因此获得“人工智能教父”的称号。他是多伦多大学的名誉大学教授,也是2018年图灵奖和2024年诺贝尔物理学奖的获得者。
辛顿的研究对深度学习的发展至关重要,这是机器学习的一个子领域,利用多层神经网络来建模数据中的复杂模式。他的贡献包括推广反向传播算法、发明玻尔兹曼机,以及设计AlexNet,这是计算机视觉领域的一项突破。他也是人工智能风险问题上的重要发声者,于2023年从谷歌辞职,以便自由谈论这些担忧。
教育与早年生活
辛顿于1947年12月6日出生在英国温布尔登,并在布里斯托尔的克利夫顿学院接受教育。1967年,他进入剑桥大学国王学院,最初探索自然科学、艺术史和哲学,随后于1970年获得实验心理学文学学士学位。在学徒做木匠一年后,他前往爱丁堡大学攻读研究生,并于1978年获得人工智能博士学位。他的博士研究由克里斯托弗·朗盖特-希金斯指导,后者偏爱符号人工智能方法而非神经网络,这种对比塑造了辛顿后来对联结主义的倡导。
职业生涯与学术职位
获得博士学位后,辛顿在英国萨塞克斯大学和MRC应用心理学部门工作。由于面临资金困难,他移居美国,在加州大学圣迭戈分校和卡内基梅隆大学任职。1987年,他加入多伦多大学担任教授,并在那里度过了职业生涯的大部分时间,除了1998年至2001年期间担任伦敦大学学院盖茨比慈善基金会计算神经科学部门的创始主任。
在多伦多,辛顿于1987年成为加拿大高等研究院(CIFAR)的院士,并于2004年共同创立了CIFAR项目“神经计算与自适应感知”(现为“机器与大脑中的学习”),并领导该项目长达十年。该项目汇集了深度学习领域的关键人物,包括约书亚·本吉奥和扬·勒昆,辛顿后来与他们共同获得了2018年图灵奖。
2012年,辛顿通过Coursera教授了一门关于神经网络的免费在线课程,并与他的学生亚历克斯·克里热夫斯基和伊利亚·苏茨克弗共同创立了DNNresearch公司。2013年3月,谷歌以4400万美元收购了该公司,辛顿在谷歌大脑团队和大学之间分配时间。他保持这种双重角色直到2023年5月,当时他公开宣布从谷歌辞职,以便自由讨论人工智能风险,并表示他对自己毕生的工作感到部分后悔。
研究贡献
辛顿的研究专注于使用神经网络进行机器学习、记忆、感知和符号处理,发表了200多篇同行评审论文。在1980年代,他是卡内基梅隆大学并行分布式处理小组的成员,该小组在人工智能寒冬期间推广了联结主义。这种方法认为,逻辑和语法等能力可以通过神经网络从数据中学习,这与符号人工智能的显式规则编程形成对比。
1985年,辛顿与大卫·阿克雷和特里·塞伊诺夫斯基共同发明了玻尔兹曼机。1986年,他与大卫·鲁梅尔哈特和罗纳德·J·威廉姆斯合著了一篇开创性论文,推广了用于训练多层神经网络的反向传播算法,尽管他们并非最早提出该算法的人。他的其他创新包括分布式表示、时延神经网络、专家混合、亥姆霍兹机和专家乘积。1995年,他提出了唤醒-睡眠算法,2008年,他与劳伦斯·范德马滕开发了t-SNE可视化方法。
2012年的一项里程碑式成就是AlexNet,这是一个与亚历克斯·克里热夫斯基和伊利亚·苏茨克弗共同设计的深度卷积神经网络。AlexNet赢得了ImageNet挑战赛,大幅提升了图像识别能力,并引发了现代深度学习革命。这一成功导致DNNresearch被谷歌收购,并加速了深度学习在工业界的采用。
奖项与荣誉
辛顿的贡献获得了广泛认可。2018年,他与约书亚·本吉奥和扬·勒昆共同获得ACM A.M.图灵奖,以表彰他们在深度学习方面的工作,三人常被称为“深度学习教父”。2024年,他与约翰·霍普菲尔德共同获得诺贝尔物理学奖,以表彰“使机器学习与人工神经网络成为可能的基础性发现和发明”。他还是皇家学会院士和加拿大勋章同伴。
人工智能安全倡导
自离开谷歌以来,辛顿已成为人工智能安全的重要倡导者。他对恶意行为者的故意滥用、技术性失业以及通用人工智能带来的生存风险表示担忧。他呼吁人工智能开发者之间进行国际合作,以制定安全指南,并在获得诺贝尔奖后敦促紧急研究如何控制比人类更智能的人工智能系统。他的警告影响了关于生成式人工智能和大型语言模型负责任发展的公众辩论。