Die Conference on Neural Information Processing Systems, abgekürzt als NeurIPS und früher NIPS, ist eine jährliche Konferenz für maschinelles Lernen und computationale Neurowissenschaften, die im Dezember stattfindet. Zusammen mit ICLR und ICML ist sie eine der drei wichtigsten Konferenzen mit hoher Wirkung in der Forschung zu maschinellem Lernen und künstlicher Intelligenz. Die Konferenz umfasst drei Tage mit eingeladenen Vorträgen sowie mündliche und Poster-Präsentationen von begutachteten Papieren, gefolgt von zwei Tagen mit Workshops und Wettbewerben.
Die erste NeurIPS-Konferenz fand 1987 in Denver, Colorado, USA, statt. Sie wurde als offenes interdisziplinäres Treffen für Forscher konzipiert, die biologische und künstliche neuronale Netze erforschten, und ergänzte das nur auf Einladung stattfindende Snowbird Meeting on Neural Networks for Computing, das vom California Institute of Technology und den Bell Laboratories organisiert wurde. Die Gründung spiegelte einen multidisziplinären Ansatz wider, mit dem Informationstheoretiker Ed Posner als Konferenzpräsident und dem Lerntheoretiker Yaser Abu-Mostafa als Programmleiter.
Gründung und frühe Jahre
Das NeurIPS-Treffen wurde erstmals 1986 beim jährlichen Snowbird Meeting vorgeschlagen, das vom California Institute of Technology und den Bell Laboratories organisiert wurde. Die erste Konferenz wurde von der IEEE gesponsert. Die Forschung, die in den frühen NeurIPS-Treffen präsentiert wurde, deckte ein breites Themenspektrum ab, von reinen Ingenieurproblemen bis hin zur Verwendung von Computermodellen zum Verständnis biologischer Nervensysteme. Seitdem haben sich die Forschungsströme zu biologischen und künstlichen Systemen auseinanderentwickelt, und neuere Tagungsbände werden von Papieren zu maschinellem Lernen, künstlicher Intelligenz und Statistik dominiert.
Die ersten Tagungsbände wurden 1987 vom American Institute of Physics in Buchform unter dem Titel Neural Information Processing Systems veröffentlicht. Nachfolgende Tagungsbände wurden von Morgan Kaufmann (1988–1993), MIT Press (1994–2004) und Curran Associates (2005–heute) unter dem Namen Advances in Neural Information Processing Systems veröffentlicht.
Wachstum und Entwicklung
Von 1987 bis 2000 fand NeurIPS in Denver, Colorado, statt. Seitdem ist die Konferenz an verschiedene Orte gezogen, darunter Vancouver, Kanada (2001–2010), Granada, Spanien (2011), Lake Tahoe, USA (2012–2013), Montreal, Kanada (2014–2015), Barcelona, Spanien (2016), Long Beach, USA (2017), erneut Montreal 2018 und Vancouver 2019. In Anlehnung an ihre Ursprünge in Snowbird, Utah, wurde das Treffen bis 2013 von Workshops in einem nahegelegenen Skigebiet begleitet, als es die Skigebiete überwuchs.
Die Konferenz wurde ursprünglich als „NIPS“ abgekürzt. Bis 2018 kritisierten einige Kommentatoren die Abkürzung dafür, Sexismus zu fördern und eine Beleidigung gegenüber Japanern zu sein. Der Vorstand änderte die Abkürzung im November 2018 in „NeurIPS“.
Themen und Wirkung
Neben maschinellem Lernen und Neurowissenschaften umfassen weitere auf NeurIPS vertretene Felder Kognitionswissenschaft, Psychologie, Computer Vision, statistische Linguistik und Informationstheorie. Im Laufe der Jahre wurde NeurIPS zu einer führenden Konferenz für maschinelles Lernen. Obwohl das „Neural“ im Akronym etwas historisch geworden war, führte die Wiederbelebung des Deep Learning in neuronalen Netzen seit 2012, angetrieben durch schnellere Computer und Big Data, zu Errungenschaften bei Spracherkennung, Objekterkennung in Bildern, Bildunterschriften, Sprachübersetzung und Weltmeisterschaftsleistungen im Spiel Go. Diese Fortschritte basierten auf neuronalen Architekturen, die von der Hierarchie der Areale im visuellen Kortex (ConvNet) inspiriert waren, und auf Reinforcement Learning, das von den Basalganglien inspiriert war (Temporal-Difference-Lernen).
Aus der NeurIPS-Konferenz sind bemerkenswerte Interessengruppen hervorgegangen, darunter Black in AI (2017) und Queer in AI (2016), die die Vielfalt innerhalb der Gemeinschaft zeigen.
Benannte Vorträge
Zusätzlich zu eingeladenen Vorträgen und Symposien organisiert NeurIPS zwei benannte Vortragsreihen. Die Posner Lectureship, die zu Ehren des Gründers Ed Posner eingeführt wurde, wurde vom NeurIPS-Vorstand ins Leben gerufen; bis 2015 wurden jedes Jahr zwei Posner-Vorträge gehalten. Zu den früheren Dozenten gehören Josh Tenenbaum und Michael I. Jordan (2010), Rich Sutton und Bernhard Schölkopf (2011), Thomas Dietterich und Terry Sejnowski (2012), Daphne Koller und Peter Dayan (2013), Michael Kearns und John Hopfield (2014), Zoubin Ghahramani und Vladimir Vapnik (2015), Yann LeCun (2016), John Platt (2017), Joëlle Pineau (2018), Yoshua Bengio (2019), Christopher Bishop (2020) und Peter Bartlett (2021).
Die Breiman Lectureship, die 2015 eingeführt wurde, hebt Arbeiten in der Statistik hervor, die für Konferenzthemen relevant sind. Sie ist nach dem Statistiker Leo Breiman benannt, der von 1994 bis 2005 im NeurIPS-Vorstand tätig war. Zu den früheren Dozenten gehören Robert Tibshirani (2015), Susan Holmes (2016), Yee Whye Teh (2017), David Spiegelhalter (2018), Bin Yu (2019), Marloes Maathuis (2020), Gabor Lugosi (2021), Emmanuel Candes (2022), Susan Murphy (2023) und Arnaud Doucet (2024).
Experiment zur Überprüfungskonsistenz
Bei NIPS 2014 duplizierten die Programmleiter 10 % aller Einreichungen und schickten sie durch separate Gutachter, um die Zufälligkeit im Begutachtungsprozess zu bewerten. Das Ergebnis zeigte, dass etwa 60 % der duplizierten Einreichungen dieselbe Annahme-/Ablehnungsentscheidung erhielten. John Langford stellte fest, dass eine rein zufällige Entscheidung eine Willkür von etwa 78 % hätte, und schloss daraus, dass der Begutachtungsprozess größtenteils willkürlich ist. Bei NeurIPS 2021 wurde das Experiment wiederholt und fand ähnliche Inkonsistenzniveaus: 23 % der duplizierten Einreichungen erhielten unterschiedliche Entscheidungen, und 50,6 % der angenommenen Papiere wären bei einer erneuten Begutachtung abgelehnt worden.
Orte
Die Konferenz wurde an verschiedenen Orten abgehalten: Denver, Colorado (1987–2000); Vancouver, Kanada (2001–2010); Granada, Spanien (2011); Stateline, Nevada (2012–2013); Montreal, Kanada (2014–2015); Barcelona, Spanien (2016); Long Beach, Kalifornien (2017); Montreal (2018); Vancouver (2019); Vancouver (2020, virtuell); virtuell (2021); New Orleans, Louisiana (2022–2023); Vancouver (2024); San Diego, Kalifornien und Mexiko-Stadt, Mexiko (2025); und Sydney, Australien, mit Satellitenveranstaltungen in Atlanta und Paris (2026).