Die Konferenz über Neuronale Informationsverarbeitungssysteme (abgekürzt als NeurIPS, früher NIPS) ist eine maschinelles Lernen und computerneurowissenschaftliche Konferenz, die jährlich im Dezember stattfindet. Zusammen mit ICLR und ICML ist sie eine der drei wichtigsten einflussreichen Konferenzen in der maschinelles Lernen- und künstliche Intelligenz-Forschung. Die Konferenz umfasst drei Tage mit eingeladenen Vorträgen sowie mündliche und Posterpräsentationen von begutachteten Papieren, gefolgt von zwei Tagen mit Workshops und Wettbewerben.
Das NeurIPS-Treffen wurde erstmals 1986 beim jährlichen, nur auf Einladung zugänglichen Snowbird-Treffen über Neuronale Netze für das Rechnen vorgeschlagen, das vom California Institute of Technology und den Bell Laboratories organisiert wurde. Es war als offenes, interdisziplinäres Treffen für Forscher konzipiert, die biologische und künstliche neuronale Netze untersuchen, und ergänzte das private Snowbird-Ereignis. Die erste Konferenz fand 1987 in Denver, Colorado, statt, mit dem Informationstheoretiker Ed Posner als Konferenzpräsident und dem Lerntheoretiker Yaser Abu-Mostafa als Programmleiter.
Gründung und frühe Jahre
Die Gründung von NeurIPS im Jahr 1987 markierte eine bewusste Abkehr vom Format des Vorgängers, das nur auf Einladung zugänglich war. Das erste Treffen wurde von der IEEE gesponsert und zog Forscher aus verschiedenen Bereichen wie Ingenieurwesen, Neurowissenschaften und Statistik an. Frühe Proceedings spiegelten ein breites Spektrum an Arbeiten wider, das von rein ingenieurwissenschaftlichen Problemen bis zu Computermodellen biologischer Nervensysteme reichte. Als sich die Bereiche maschinelles Lernen und künstliche Intelligenz weiterentwickelten, divergierten die biologischen und ingenieurwissenschaftlichen Forschungsströme, und bis in die 2000er Jahre wurde das Konferenzprogramm von maschinellem Lernen, Statistik und KI-Forschung dominiert.
Ed Posner, ein Informationstheoretiker am California Institute of Technology, diente als erster Konferenzpräsident, und Yaser Abu-Mostafa fungierte als Programmleiter. Die Konferenz fand zunächst von 1987 bis 2000 in Denver, Colorado, statt. Danach zog sie nach Vancouver (2001–2010), dann Granada (2011) und Lake Tahoe (2012–2013), bevor sie in den folgenden Jahren zwischen mehreren internationalen Städten rotierte.
Organisationsgeschichte
Die erste NeurIPS-Konferenz wurde von der IEEE gesponsert. Nachfolgende Treffen wurden von der NeurIPS-Stiftung organisiert, die von Ed Posner gegründet wurde. Terrence Sejnowski ist seit Posners Tod im Jahr 1993 Präsident der Stiftung. Der Vorstand besteht aus früheren Generalvorsitzenden der Konferenz.
Konferenzbeiträge wurden erstmals 1987 vom American Institute of Physics in Buchform als Neural Information Processing Systems veröffentlicht. Nachfolgende Bände wurden von Morgan Kaufmann (1988–1993), MIT Press (1994–2004) und Curran Associates (2005–heute) unter dem Titel Advances in Neural Information Processing Systems veröffentlicht.
Benennung und Umbenennung
Die Konferenz wurde ursprünglich als "NIPS" abgekürzt. Im Jahr 2018 kritisierten Kommentatoren das Akronym wegen seiner Assoziation mit dem Wort "Brustwarzen" und argumentierten, dass es Sexismus in dem Bereich fördern könnte. Als Reaktion darauf änderte der Organisationsvorstand die offizielle Abkürzung im November 2018 in "NeurIPS".
Konferenzformat und Umfang
NeurIPS findet jährlich statt und umfasst eingeladene Vorträge, mündliche Präsentationen und Postersitzungen für begutachtete Papiere, gefolgt von Workshops und Wettbewerben. Zusammen mit ICLR und ICML gilt es als erstklassige Plattform für die Veröffentlichung von Forschung im Bereich maschinelles Lernen und künstliche Intelligenz.
Der thematische Umfang der Konferenz hat sich von ihrem ursprünglichen Fokus auf neuronale Netze erweitert und umfasst nun Kognitionswissenschaft, Computersehen, natürliche Sprachverarbeitung und Statistik. Das Wiederaufleben des tiefen Lernens seit etwa 2012 hat NeurIPS als zentrale Plattform für Fortschritte bei neuronalen Netzarchitekturen und bestärkendem Lernen positioniert, einschließlich Durchbrüchen bei Bilderkennung, Sprachübersetzung und Spielsystemen.
Benannte Vorträge
NeurIPS organisiert zwei benannte Vortragsreihen zu Ehren angesehener Forscher. Die Posner-Vortragsreihe, eingeführt vom NeurIPS-Vorstand, ehrt den Gründer Ed Posner. Bisherige Posner-Dozenten umfassen:
- 2010: Michael Jordan und Rich Sutton
- 2011: Thomas Dietterich und Terry Sejnowski
- 2012: Daphne Koller und Peter Dayan
- 2013: Yoshua Bengio und Zoubin Ghahramani
- 2014: Yann LeCun und Peter Dayan
- 2015: Zoubin Ghahramani und Yoshua Bengio
- 2016: Michael Kearns
- 2017: John Platt
- 2018: Joelle Pineau
- 2019: Yoshua Bengio
- 2020: Peter Bartlett
Die Breiman-Vortragsreihe, eingeführt 2015, ehrt den Statistiker Leo Breiman, der von 1994 bis 2005 im NeurIPS-Vorstand tätig war. Bisherige Dozenten umfassen Susan Holmes (2016), David Spiegelhalter (2018), Emmanuel Candes (2022) und Arnaud Doucet (2024).
Experimente zur Begutachtungskonsistenz
Im Jahr 2014 duplizierten Programmleiter 10% aller Einreichungen und schickten sie an separate Gutachter, ein Test des Peer-Review-Prozesses. Die Ergebnisse zeigten, dass etwa 60% der Entscheidungen konsistent waren, was mehrere Forscher als Hinweis auf erhebliche Willkür im Begutachtungsergebnis interpretierten. John Langford bemerkte, dass ein rein zufälliger Prozess etwa 78% Inkonsistenz ergeben würde, sodass die beobachteten 60% näher an Zufall als an perfekter Übereinstimmung lagen. Das Experiment wurde bei NeurIPS 2021 wiederholt, mit ähnlichen Ergebnissen: 23% der duplizierten Einreichungen erhielten unterschiedliche Annahme-/Ablehnungsentscheidungen, und 50,6% der angenommenen Papiere wären unter einer anderen Gutachtergruppe abgelehnt worden.
Einfluss und Vermächtnis
Im Laufe ihrer jahrzehntelangen Geschichte ist NeurIPS zu einer der drei wichtigsten Konferenzen mit hohem Einfluss in der künstliche Intelligenz-Forschung geworden. Das Wiederaufleben des tiefen Lernens seit den frühen 2010er Jahren, ermöglicht durch schnellere Hardware und größere Datensätze, hat die Konferenz zu einer zentralen Plattform für Fortschritte im Computersehen, in der natürlichen Sprachverarbeitung und im bestärkenden Lernen gemacht. NeurIPS hat auch eine Rolle bei der Förderung von Diversität in der Gemeinschaft durch Interessengruppen wie Black in AI (2017) und Queer in AI (2016) gespielt.
Benannte Vortragsreihen
Der NeurIPS-Vorstand richtete die Posner-Vortragsreihe zu Ehren des Gründers Ed Posner ein; sie wurde bis 2015 an zwei Preisträger pro Jahr vergeben. Zu den Empfängern gehörten Josh Tenenbaum (2012), Bernhard Schölkopf (2017) und Yann LeCun (2016). Die Breiman-Vortragsreihe wurde 2015 eingeführt, benannt nach dem Statistiker Leo Breiman, und wurde an Forscher wie Emmanuel Candes (2022) und Arnaud Doucet (2024) vergeben.
Konsistenz der Peer-Review
Im Jahr 2014 führten Programmleiter ein Konsistenzexperiment durch, indem sie 10% der Einreichungen duplizierten und sie durch separate Gutachter schickten. Die Ergebnisse deuteten auf erhebliche Willkür im Begutachtungsprozess hin, mit einer geschätzten Inkonsistenz von etwa 60%, verglichen mit den etwa 78%, die von einem rein zufälligen Entscheidungsprozess erwartet würden. Ein Folgeexperiment bei NeurIPS 2021 ergab, dass 23% der duplizierten Einreichungen unterschiedliche Annahme-/Ablehnungsentscheidungen erhielten, und über die Hälfte der angenommenen Papiere wäre bei einer erneuten Begutachtung abgelehnt worden.
Orte und Wachstum
Von 1987 bis 2000 tagte die Konferenz in Denver. Danach zog sie nach Vancouver (2001–2010), Granada (2011), Lake Tahoe (2012–2013), Montréal (2014–2015), Barcelona (2016), Long Beach (2017), Montréal (2018) und Vancouver (2019). Die Ausgaben 2020 und 2021 fanden aufgrund der COVID-19-Pandemie virtuell statt. Nachfolgende Veranstaltungsorte umfassten New Orleans (2022), New Orleans (2023) und Vancouver (2024). Zukünftige geplante Orte umfassen San Diego (2025) und Sydney (2026).