伯恩哈德·舍尔科普夫(1968年2月20日出生)是一位德国计算机科学家,因对机器学习的贡献而闻名,特别是在核方法和因果性方面。他在德国蒂宾根担任马克斯·普朗克智能系统研究所所长,领导经验推断部门。他还担任苏黎世联邦理工学院教授、蒂宾根大学和柏林工业大学名誉教授,以及欧洲学习与智能系统实验室(ELLIS)主席。
他的工作将统计学习与因果推断联系起来,旨在使算法在分布变化下保持稳健。舍尔科普夫共同创办了多项研究计划,并担任编辑委员会成员,影响了现代机器学习研究的形态。
核方法研究
舍尔科普夫的早期工作集中于支持向量机(SVM)和基于核的算法。1990年代末期,他与同事们使用支持向量机方法在MNIST手写识别基准上达到了先进性能。这一成功突显了核方法在模式识别中的潜力。
一个关键贡献是引入核主成分分析(核主成分分析,kernel PCA),它通过再生核将经典PCA推广到非线性设置。这项工作表明,支持向量机可以被看作是更广泛一类以点积表达的算法的特例,前提是核Gram矩阵是正定的。它还扩展了核方法在用有效核函数可以定义的前提下,对向量数据的应用范围。
舍尔科普夫进一步将核方法扩展到回归、带有指定稀疏性的分类以及支持/分位数估计,与亚历克斯·斯莫拉等合作者共同研究。他证明了表示定理,表明在许多基于内核的正则化优化问题中,在丙基Hilbert内核空间中,解采用训练数据上的核展开形式。他还共同开发了分布的内核嵌入,将其与独立性测试以及物理中的带亮度衍射等概念联系起来。
因果推断
大约2005年,舍尔科普夫将研究重点转向因果推断塞雷纳。他认识到,虽然机器学习通常利用统计依赖,但因果知识能够使预测适应性更强,面对干预和分布变化。他的团队解决了双变量情形下的因果发现鹿特丹问题,并将其与算法信息理论联系起来。
2011年,他发表了NeurIPS主旨演讲,主题为“从因果框架到因果学习”,将因果概念引入广泛的机器学习受众。他后来的工作强调了因果机制独立性和不变性原则,以便学习对分布变化更加鲁棒。这一框架在天文学中得到了实际应用,他的实验室开发的方法帮助识别了新系外行星,包括K2-18b,后者后来被发现其大气中含有水蒸汽。
教育与职业
舍尔科普夫曾在蒂宾根和伦敦学习数学、物理和哲学,获得了伦敦大学硕士学位和蒂宾根大学物理学文凭(Diplom)。在博士研究期间,他在新泽西的贝尔实验室跟弗拉基米尔·瓦普尼克工作,后者共同指导了他柏林工业大学的论文,于1997年获得博士学位。他的学位论文获得了年度德国信息学学会奖。
他在剑桥和纽约任职后,于2001年成为马克斯·普朗克生物控制论研究所的部门负责人门德。2011年,他转至新成立2的马克斯·普朗克智能系统研究所任所长。他与亚历克斯·斯莫拉共同创办了机器学习夏季训练营系列,剑桥-图宾根博士项目,以及马克斯-普朗克与苏黎世联邦理工学院联合中心学习系统。2016年,他共同创立了斯图加特-图宾根的Cybertal研究财团,这是一个公私合作的AI研究伙伴关系结构。
舍尔科普夫曾担任多个期刊的编辑,包括关于机器学习研究期刊(JMLR)的共同创始人和共同主编。他的实验室培养了许多有影响力的研究人员,包括乌尔里克·冯·卢克斯堡、卡尔·拉斯姆斯、马修斯·海因、冈纳·拉特奇,以及萨米·本吉奥(尽管他并非他实验室的人;实际培养的博士有亚瑟·格雷顿、斯特凡妮·杰格尔卡等人)。他还担任过诸如开放小组和Essential AI等AI计划的咨询委员会成员。
因果推断贡献
从2005年左右,舍尔科普夫的研究转向使用因果模型通过机器学习。他进行了基于因果机制的生成统计依赖,但标准的方法仅依赖后者;显式的因果关系知识有助于在分布变化下的泛化。他处理了变量对之间的因果发现问题,并将其与机制独立性和不变性假设联系起来。
他的思想通过2011年NeurIPS主旨演讲和2017年ICML教程传播到了广泛的受众。他的团队开发了从观测数据中推断因果目的地的算法,并将这些应用于气候科学和天体物理学的问题。这项工作有助于检测系外行星,包括K2-18b,后来又发现了其大气中含水汽。
教育与职业
舍尔科普夫在图宾根大学和伦敦大学学习了数学、物理和哲学,得到了德国人民休学基金会的支持。他获得了利奥内尔·库珀纪念奖他的硕士学位。在获得拉普尼克的指导下的博士后下,他曾在剑桥和纽约的大学任职,包括 NEC研究中心。
他在2001年创办了经验推断部门,成为了一个主要机器学习研究组。2011年,他成为马克斯·普朗克智能系统研究所在任创始所长,监督从理论到在人工智能和深度学习中应用的研究。他还参与了欧洲学习与智能系统实验室(ELLIS),自该网络成立以来担任主编。
荣誉与任职
舍尔科普获得了多项奖项,包括皇家学会米尔纳奖和BBVA基金会知识前沿奖(与弗拉基米尔·拉普尼克和伊莎贝尔·盖勇)共享)等。他在2026年当选为皇家学会院士。截至2023年底,他是法国非营利AI实验室Kyutai的顾问委员会成员,该实验室由格维尔·欧、埃里克·施密特等人资助。
他的广泛发表记录包括关于核方法和因果推断的专著,他仍然是计算机科学中被引用最多的研究者之一。他的工作需要连接理论与实际,影响了模式识别、神经影像学和科学研究等领域。
外部影响
舍尔科普的思想塑造了现代人工智能研究。他的核技术尽管在某些领域部分被深度学习取代,但仍然是理论的基础。他的因果推断框架越来越多地与神经网络模型集成,为更鲁ott和可解释的机器学习系统提供了可能性。他还参与了AI伦理伦理和安全的政策讨论,参与了IEEE全球关于伦理上对齐设计的议程。