Die Conference on Neural Information Processing Systems (NeurIPS, früher NIPS) ist eine jährlich im Dezember stattfindende akademische Konferenz, die sich auf maschinelles Lernen und computationale Neurowissenschaften konzentriert. Sie gilt neben der International Conference on Learning Representations (ICLR) und der International Conference on Machine Learning (ICML) als eine der drei wichtigsten Konferenzen mit hoher Wirkung in der Forschung zu maschinellem Lernen und künstlicher Intelligenz. Die Konferenz umfasst drei Tage mit eingeladenen Vorträgen, mündlichen und Poster-Präsentationen begutachteter Papiere, gefolgt von zwei Tagen mit Workshops und Wettbewerben.
Geschichte
Das NeurIPS-Treffen wurde erstmals 1986 auf dem jährlichen, nur auf Einladung zugänglichen Snowbird Meeting on Neural Networks for Computing vorgeschlagen, das vom California Institute of Technology und den Bell Laboratories organisiert wurde. NeurIPS wurde als ergänzendes, offenes interdisziplinäres Treffen für Forscher konzipiert, die biologische und künstliche neuronale Netze untersuchen. Die erste Konferenz fand 1987 statt, mit dem Informationstheoretiker Ed Posner als Konferenzpräsidenten und dem Lerntheoretiker Yaser Abu-Mostafa als Programmleiter. Frühe Treffen deckten ein breites Themenspektrum ab, von technischen Problemen bis zur Nutzung von Computermodellen zum Verständnis biologischer Nervensysteme. Im Laufe der Zeit trennten sich die Forschungsströme zu biologischen und künstlichen Systemen, und neuere Tagungsbände werden von Arbeiten zu maschinellem Lernen, künstlicher Intelligenz und Statistik dominiert.
Von 1987 bis 2000 fand NeurIPS in Denver, USA, statt. Weitere Veranstaltungsorte waren Vancouver, Kanada (2001–2010), Granada, Spanien (2011), Lake Tahoe, USA (2012–2013), Montreal, Kanada (2014–2015), Barcelona, Spanien (2016), Long Beach, USA (2017), erneut Montreal (2018) und Vancouver 2019. Die Ausgaben 2020 und 2021 fanden aufgrund der COVID-19-Pandemie virtuell statt. Die Konferenz kehrte 2022 und 2023 mit Präsenzveranstaltungen in New Orleans zurück, gefolgt von Vancouver 2024. Zukünftige Veranstaltungsorte umfassen San Diego und Mexiko-Stadt 2025 sowie Sydney 2026 mit Satellitenveranstaltungen in Atlanta und Paris.
Die erste NeurIPS-Konferenz wurde von der IEEE gesponsert. Nachfolgende Konferenzen wurden von der NeurIPS Foundation organisiert, die von Ed Posner gegründet wurde. Terrence Sejnowski ist seit Posners Tod 1993 Präsident der Stiftung. Das Kuratorium besteht aus früheren Generalvorsitzenden der Konferenz. Die ersten Tagungsbände wurden 1987 vom American Institute of Physics in Buchform unter dem Titel Neural Information Processing Systems veröffentlicht. Nachfolgende Tagungsbände wurden von Morgan Kaufmann (1988–1993), MIT Press (1994–2004) und Curran Associates (2005–heute) unter dem Namen Advances in Neural Information Processing Systems veröffentlicht.
Die Konferenz wurde ursprünglich mit „NIPS“ abgekürzt. Bis 2018 kritisierten einige Kommentatoren die Abkürzung, da sie Sexismus fördere, weil sie mit dem Wort „Nippel“ assoziiert werde, und da sie eine abwertende Bezeichnung für Japaner sei. Das Kuratorium änderte die Abkürzung im November 2018 in „NeurIPS“.
Themen
Neben maschinellem Lernen und Neurowissenschaften umfassen weitere auf NeurIPS vertretene Felder Kognitionswissenschaft, Psychologie, Computer Vision, statistische Linguistik und Informationstheorie. Im Laufe der Jahre entwickelte sich NeurIPS zu einer führenden Konferenz für maschinelles Lernen. Obwohl das „Neural“ im Akronym etwas historisch geworden war, führte die Wiederbelebung des Deep Learning seit 2012, angetrieben durch schnellere Computer und Big Data, zu Erfolgen bei Spracherkennung, Objekterkennung, Bildbeschriftung, Sprachübersetzung und Weltmeisterleistungen im Spiel Go. Diese Fortschritte basierten auf neuronalen Architekturen, die vom visuellen Kortex inspiriert waren (Faltungsnetze), und auf Reinforcement Learning, das von den Basalganglien inspiriert war (Temporal-Difference-Lernen).
Aus NeurIPS sind bemerkenswerte Interessengruppen hervorgegangen, darunter Black in AI (2017) und Queer in AI (2016), was ein Engagement für Vielfalt widerspiegelt.
Benannte Vorträge
NeurIPS organisiert zwei benannte Vortragsreihen, um herausragende Forscher zu würdigen. Die Posner Lectureship, eingeführt zu Ehren des Gründers Ed Posner, wurde bis 2015 zweimal jährlich vergeben. Zu den bisherigen Posner-Dozenten gehören Josh Tenenbaum und Michael I. Jordan (2010), Thomas Dietterich und Terry Sejnowski (2012), Daphne Koller und Peter Dayan (2013), Yann LeCun (2016), Yoshua Bengio (2019) und Christopher Bishop (2020). Die Breiman Lectureship, eingeführt 2015, hebt Arbeiten in der Statistik hervor, die für Konferenzthemen relevant sind, und ist nach dem Statistiker Leo Breiman benannt. Zu den bisherigen Breiman-Dozenten gehören Robert Tibshirani (2015), Yee Whye Teh (2017), Bin Yu (2019) und Arnaud Doucet (2024).
Experiment zur Konsistenz der Begutachtung
Bei NIPS 2014 duplizierten die Programmleiter 10 % aller Einreichungen und schickten sie durch separate Gutachter, um die Zufälligkeit im Begutachtungsprozess zu bewerten. Die Ergebnisse zeigten, dass 60 % der duplizierten Einreichungen dieselbe Annahme-/Ablehnungsentscheidung erhielten, was den Forscher John Langford zu der Bemerkung veranlasste, dass die Entscheidung zwar nicht völlig zufällig sei (ein rein zufälliger Prozess hätte etwa 78 % Willkür), die 60-%-Zahl jedoch viel näher an 78 % als an 0 % liege, was darauf hindeutet, dass das Ergebnis größtenteils willkürlich ist. Bei NeurIPS 2021 wurde das Experiment wiederholt und fand eine ähnliche Inkonsistenz: 23 % der duplizierten Einreichungen erhielten unterschiedliche Entscheidungen, und 50,6 % der angenommenen Papiere wären bei einer erneuten Begutachtung abgelehnt worden.