神经信息处理系统会议(简称NeurIPS,原称NIPS)是一个每年12月举行的机器学习和计算神经科学会议。与ICLR和ICML一起,它是机器学习和人工智能研究中三个主要的高影响力会议之一。会议包括三天的特邀报告,以及经过评审的论文的口头报告和海报展示,随后是两天的研讨会和竞赛。
NeurIPS会议最初于1986年在由加州理工学院和贝尔实验室组织的年度仅限受邀者参加的神经网络计算Snowbird会议上提出。它被设想为一个开放的跨学科聚会,供研究生物和人工神经网络的研究人员参加,以补充私密的Snowbird活动。第一届会议于1987年在科罗拉多州丹佛市举行,信息理论家Ed Posner担任会议主席,学习理论家Yaser Abu-Mostafa担任程序主席。
创立与早期岁月
1987年NeurIPS的创立标志着对其前身仅限受邀者参加形式的刻意背离。首届会议由IEEE赞助,吸引了来自工程、神经科学和统计学等不同领域的研究人员。早期论文集反映了广泛的工作范围,从纯工程导向的问题到生物神经系统的计算模型。随着机器学习和人工智能领域的成熟,生物和工程研究流逐渐分化,到2000年代,会议议程已由机器学习、统计学和人工智能研究主导。
加州理工学院的信息理论家Ed Posner担任首任会议主席,Yaser Abu-Mostafa担任程序主席。会议最初于1987年至2000年在科罗拉多州丹佛市举行。之后移至温哥华(2001–2010),然后是格拉纳达(2011)和太浩湖(2012–2013),随后在随后的几年中在多个国际城市之间轮换。
组织历史
第一届NeurIPS会议由IEEE赞助。随后的会议由Ed Posner创立的NeurIPS基金会组织。自1993年Posner去世以来,Terrence Sejnowski一直担任基金会主席。董事会由会议的前任总主席组成。
会议论文集最初于1987年由美国物理学会以书籍形式出版,书名为Neural Information Processing Systems。后续卷册由Morgan Kaufmann(1988–1993)、MIT Press(1994–2004)和Curran Associates(2005年至今)以Advances in Neural Information Processing Systems为标题发布。
命名与更名
会议最初缩写为“NIPS”。2018年,评论者批评该缩写与“nipples”一词的关联,并认为它可能助长该领域的性别歧视。作为回应,组织委员会于2018年11月将官方缩写改为“NeurIPS”。
会议形式与范围
NeurIPS每年举行一次,包括特邀报告、口头报告和经过评审论文的海报展示,随后是研讨会和竞赛。与ICLR和ICML一起,它被认为是发表机器学习和人工智能研究的顶级场所。
会议的主题范围已从最初对神经网络的关注扩展到包括认知科学、计算机视觉、自然语言处理和统计学。自约2012年以来深度学习的复兴使NeurIPS成为神经网络架构和强化学习进展的核心场所,包括图像识别、语言翻译和游戏系统方面的突破。
命名讲座
NeurIPS组织两个以杰出研究人员命名的讲座系列。由NeurIPS董事会设立的Posner讲座系列旨在纪念创始人Ed Posner。历届Posner讲座演讲者包括:
- 2010:Michael Jordan和Rich Sutton
- 2011:Thomas Dietterich和Terry Sejnowski
- 2012:Daphne Koller和Peter Dayan
- 2013:Yoshua Bengio和Zoubin Ghahramani
- 2014:Yann LeCun和Peter Dayan
- 2015:Zoubin Ghahramani和Yoshua Bengio
- 2016:Michael Kearns
- 2017:John Platt
- 2018:Joelle Pineau
- 2019:Yoshua Bengio
- 2020:Peter Bartlett
Breiman讲座系列于2015年设立,旨在纪念统计学家Leo Breiman,他于1994年至2005年担任NeurIPS董事会成员。历届演讲者包括Susan Holmes(2016)、David Spiegelhalter(2018)、Emmanuel Candes(2022)和Arnaud Doucet(2024)。
评审一致性实验
2014年,程序主席将10%的投稿复制并分发给不同的评审者,以测试同行评审过程。结果显示约60%的决定是一致的,几位研究人员将此解释为评审结果存在显著任意性的证据。John Langford指出,纯随机过程会产生约78%的不一致率,因此观察到的60%更接近随机而非完全一致。该实验在NeurIPS 2021上重复进行,结果类似:23%的复制投稿收到了不同的接受/拒绝决定,50.6%的接受论文在另一组评审下会被拒绝。
影响与遗产
在其数十年的历史中,NeurIPS已成为人工智能研究中三个主要的高影响力会议之一。自2010年代初以来,由更快硬件和更大数据集推动的深度学习复兴使该会议成为计算机视觉、自然语言处理和强化学习进展的核心场所。NeurIPS还通过诸如Black in AI(2017)和Queer in AI(2016)等亲和团体在促进社区多样性方面发挥了作用。
命名讲座
NeurIPS董事会设立了Posner讲座系列以纪念创始人Ed Posner;截至2015年,每年颁发给两位获奖者。获奖者包括Josh Tenenbaum(2012)、Bernhard Schölkopf(2017)和Yann LeCun(2016)。Breiman讲座系列于2015年设立,以统计学家Leo Breiman命名,已授予包括Emmanuel Candes(2022)和Arnaud Doucet(2024)在内的研究人员。
同行评审一致性
2014年,程序主席通过复制10%的投稿并将其分发给独立的评审者进行了一致性实验。结果表明评审过程存在显著任意性,估计不一致率约为60%,而纯随机决策过程的预期不一致率约为78%。NeurIPS 2021的后续实验发现,23%的复制投稿收到了不同的接受/拒绝决定,超过一半的接受论文在重新评审下会被拒绝。
地点与增长
从1987年到2000年,会议在丹佛举行。然后移至温哥华(2001–2010)、格拉纳达(2011)、太浩湖(2012–2013)、蒙特利尔(2014–2015)、巴塞罗那(2016)、长滩(2017)、蒙特利尔(2018)和温哥华(2019)。2020年和2021年的会议因COVID-19疫情以虚拟形式举行。随后的地点包括新奥尔良(2022)、新奥尔良(2023)和温哥华(2024)。未来计划的地点包括圣地亚哥(2025)和悉尼(2026)。