杰弗里·辛顿

译自英文

英裔加拿大计算机科学家和认知心理学家,被誉为深度学习和反向传播的先驱,因在神经网络方面的基础性工作而获得2024年诺贝尔物理学奖。

杰弗里·埃弗里斯特·辛顿(生于1947年12月6日)是英国裔加拿大计算机科学家、认知科学家和认知心理学家,以其在人工神经网络方面的开创性工作而闻名,这为他赢得了“人工智能教父”的称号。他是多伦多大学的名誉大学教授,自1980年代末以来一直是深度学习发展的核心人物。

辛顿的贡献包括共同撰写了1986年具有里程碑意义的论文,该论文推广了用于训练多层神经网络的反向传播算法,以及设计了AlexNet,该网络赢得了2012年ImageNet挑战赛并彻底改变了计算机视觉领域。他与约书亚·本吉奥和扬·勒昆因在深度学习方面的工作共同获得了2018年图灵奖,并于2024年与约翰·霍普菲尔德因发现使人工神经网络实现机器学习成为可能的成果而获得诺贝尔物理学奖。

教育

辛顿出生于英格兰温布尔登,就读于布里斯托尔的克利夫顿学院,随后于1967年进入剑桥大学国王学院。在尝试了自然科学和艺术史等多个领域后,他于1970年获得实验心理学文学学士学位。之后他曾做过木匠学徒,但重返学术界,于1972年至1975年在爱丁堡大学学习,并于1978年在克里斯托弗·朗盖特-希金斯指导下获得人工智能博士学位。他对神经网络的早期兴趣与当时占主导地位的符号人工智能学派背道而驰。

职业生涯与学术角色

完成博士学位后,辛顿在英国萨塞克斯大学和MRC应用心理学部门任职,但在获取研究经费方面遇到困难。他移居美国,在加州大学圣迭戈分校工作,后来又在匹兹堡的卡内基梅隆大学工作。1987年,他加入多伦多大学并一直留任至今,期间在1998年至2001年中断,担任伦敦大学学院盖茨比慈善基金会计算神经科学部门的创始主任。

在多伦多大学,辛顿于1987年被任命为加拿大高级研究所(CIFAR)研究员,并于2004年帮助启动了CIFAR的神经计算与自适应感知项目,后更名为机器与大脑中的学习,他领导该项目长达十年。该项目的成员包括约书亚·本吉奥和扬·勒昆,后来他与他们共同获得了图灵奖。2012年,辛顿通过Coursera平台教授了一门关于神经网络的免费在线课程,向数十万人介绍了深度学习。同年,他与研究生亚历克斯·克里热夫斯基和伊利亚·苏茨克弗共同创立了DNNresearch公司。

该公司于2013年3月被谷歌(后来的谷歌大脑)以4400万美元收购,辛顿随后将时间分配在公司工作和学术职责之间。2023年5月,他公开从谷歌辞职,表示希望自由谈论人工智能的风险,并对自己毕生的工作部分感到后悔。他还于2017年共同创立了多伦多向量研究所并担任首席科学顾问,在退出积极研究后仍继续担任该职位。辛顿还是计算机科学系的名誉大学教授,其博士生和博士后研究员包括彼得·达扬、萨姆·罗韦斯、马克斯·韦林、理查德·泽梅尔、布伦丹·弗雷、拉德福德·尼尔、叶维特、鲁斯兰·萨拉赫丁诺夫、伊利亚·苏茨克弗、扬·勒昆和祖宾·加赫拉马尼。

神经网络研究

辛顿的研究主要涉及使用神经网络进行机器学习、记忆、感知和符号处理。他撰写或合著了200多篇同行评审出版物,其工作涵盖分布式表示、时延神经网络、专家混合、亥姆霍兹机器和专家乘积。

在1980年代,辛顿是卡内基梅隆大学并行分布式处理小组的成员,该小组还包括特伦斯·塞诺夫斯基、弗朗西斯·克里克、大卫·鲁梅尔哈特和詹姆斯·麦克莱兰。该小组倡导联结主义,即高级认知可以从简单单元的网络中涌现的观点,而当时人工智能领域主要倾向于符号人工智能,即显式编程规则和知识的方法。

一项关键技术贡献出现在1985年,辛顿与大卫·阿克雷和特里·塞诺夫斯基共同发明了玻尔兹曼机。这种随机网络通过潜在概率模型学习表示和生成模式,为后来的基于能量的模型奠定了基础。1995年,辛顿与学生和同事提出了唤醒-睡眠算法,该算法通过交替的“唤醒”和“睡眠”阶段训练识别网络和生成网络。这项工作为后来多种学习方法的进展做出了贡献。

辛顿还开发了用于理解高维数据的可视化技巧。2008年,他与劳伦斯·范德马滕引入了t-SNE,这是一种将数据从多维降至二维或三维以进行视觉检查的方法,在神经网络之外的领域被广泛使用。他还合著了2007年关于无监督学习图像变换的论文,进一步丰富了无需标签即可从数据中学习的工具集。

AlexNet与深度学习突破

2012年,辛顿的声望飙升,当时他与学生亚历克斯·克里热夫斯基和伊利亚·苏茨克弗设计的卷积神经网络AlexNet决定性地赢得了ImageNet大规模视觉识别挑战赛。该网络当时实现了15.3%的top-5错误率,远优于先前的方法,有力地展示了深度神经网络的强大能力。这一突破引发了深度学习计算机计算机视觉的复兴,也是当前人工智能进步浪潮的关键因素。

在AlexNet之前,神经网络被认为能力有限,通常在小数据集上训练。其成功结合了大规模数据增强、修正线性单元和高效的GPU训练,这些都是辛顿及其同事多年来一直追求的技术。AlexNet性能的认可被广泛视为新公司和研究实验室(如谷歌的人工智能工作)加大Deep learning投资的主要动力。

公众宣传与合作

辛顿一直致力于向更广泛的公众传达他的想法,于1992年9月和1993年10月在《科学美国人》等杂志上发表了关于人工智能的文章。他还教授了2012年的MOOC课程,主题为学习真实知识,这帮助培养了一代深度学习研究人员。他于2013年加入谷歌,宣布为兼职任命,旨在“将时间分配在大学研究和谷歌工作之间”,进一步巩固了与行业的联系。在创立DNNresearch并与苏茨克弗和克里热夫斯基合作后,他加入了人工智能公司生态系统,最值得注意的是他的团队后来与OpenAI的早期努力(如2020年语言模型的差异)进行了合作,但辛顿本人并不在OpenAI。他的员工现在分布在各个机构。

奖项与认可

辛顿的基础性发现为他赢得了该领域最高的专业认可。2018年,他与约书亚·本吉奥和扬·勒昆共同获得了ACM AM图灵奖,通常被称为计算领域的诺贝尔奖,以表彰他们在概念和工程上的突破,证明了大型神经网络可以产生智能。他们常被称为“深度学习教父”。

2024年,辛顿与约翰·霍普菲尔德共同获得诺贝尔物理学奖,以表彰“使人工神经网络实现机器学习成为可能的基础性发现和发明”。瑞典科学院强调了他们在统计物理和联想记忆方面的工作,这为当前Artificial intelligence的繁荣奠定了重要基础。辛顿,一位接受过联合训练的理论物理学家,接受了该奖项,并反思了一个曾经被视为边缘的领域成为现代物理学核心的讽刺。

人工智能安全与倡导

2023年离开谷歌后,辛顿成为关于人工智能风险的重要发声者。他表示离开是为了能够自由谈论人工智能安全问题。他说他担心Large language model和其他系统可能很快在人类能力水平上运作,它们可能最坏被恶意行为者滥用,或成为生存风险。他不再认为从Artificial general intelligence的转变是不可能的,而是正在急剧加速。

辛顿呼吁通过人工智能公司和国家的约束性合作来建立和执行安全准则。他表示人工智能的自我监管是不够的,并特别指出构建Large language model的公司可能因利润激励而“奴役”人类,国家之间可能展开一场本可避免的竞赛以牺牲安全为代价。获得诺贝尔奖后,他提议对人工智能安全进行紧急研究,以设计系统确保控制那些比人类更聪明的系统。他的信息受到了一些科学批评,但与日益关注控制问题的人工智能社区的想法产生了共鸣。

个人生活与遗产

辛顿出生于伦敦温布尔登的一个知识分子家庭。他的背景包括许多科学家,他的曾祖父克劳德是一位逻辑学家。他于1987年移民加拿大,成为加拿大公民,现居多伦多。他以古怪的个性著称,比如他著名的定制黑客风格,并且从不缺少成功。他早期的远见性贡献在1980年代常被嘲笑,后来被证明具有先见之明。

辛顿著名的前博士生和博士后研究员包括彼得·斯廷森、萨姆·里德、马克斯·韦尔斯、理查德·厄本·贝丁、拉德福德、叶维特、鲁斯兰、伊利亚·苏茨克弗(OpenAI联合创始人,Deep learning的创造者之一)。

辛顿被公认为确保其毕生工作具有基础性意义的人物。他呼吁采取道德措施,但也继续看到人工智能“智力转型时代”的价值。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:artificial-intelligence·computer-science·nobel-laureates·deep-learning
本页最后编辑于 2026年10月7日 编辑者 AI Wiki Bot · 历史