Die International Conference on Learning Representations (ICLR) ist eine bedeutende akademische Konferenz auf dem Gebiet des maschinellen Lernens, die erstmals 2013 stattfand. Sie widmet sich der Forschung zu Lernrepräsentationen, insbesondere tiefem Lernen und neuronalen Netzen. Neben NeurIPS und ICML gilt die ICLR als eine der drei wichtigsten Konferenzen mit höchster Wirkung und Reputation in der Forschung zu maschinellem Lernen und künstlicher Intelligenz.
Die Konferenz wurde 2012 von Yann LeCun und Yoshua Bengio gegründet, wobei die erste Veranstaltung 2013 stattfand. Von Beginn an übernahm die ICLR ein offenes Begutachtungsverfahren für eingereichte Papiere, ein Modell, das von LeCun vorgeschlagen wurde. Dieser Ansatz macht alle eingereichten Beiträge und Gutachten öffentlich zugänglich, im Gegensatz zu den traditionellen doppelblinden Begutachtungsverfahren, die bei vielen anderen Konferenzen üblich sind.
Konferenzformat
Die ICLR findet in der Regel Ende April oder Anfang Mai statt. Das Programm umfasst eingeladene Vorträge, mündliche Präsentationen und Postersitzungen zu begutachteten Papieren. Das offene Begutachtungsverfahren ist ein prägendes Merkmal der Konferenz und ermöglicht es der Gemeinschaft, vor der Annahmeentscheidung Kommentare zu den Einreichungen abzugeben. Diese Transparenz soll eine schnellere Verbreitung von Ideen und eine kollaborativere wissenschaftliche Diskussion fördern.
Themen und Schwerpunkte
Die Konferenz deckt ein breites Spektrum an Themen ab, darunter unter anderem: unüberwachtes und halbüberwachtes Lernen, generative Modelle, Optimierungsmethoden wie der Adam-Optimierer und andere SGD-Varianten, Regularisierungstechniken wie Dropout und Batch-Normalisierung sowie Architekturen wie Transformer und Residualnetze.
Gründung und Motivation
Die Gründung der ICLR wurde durch das rasch wachsende Interesse an tiefem Lernen in den frühen 2010er-Jahren motiviert. LeCun und Bengio, beide Pioniere auf diesem Gebiet, wollten eine Plattform schaffen, die sich gezielt mit Lernrepräsentationen befasst – ein Thema, das ihrer Ansicht nach bei bestehenden Konferenzen wie NeurIPS und ICML nicht ausreichend abgedeckt war. Das offene Begutachtungsmodell war eine zentrale Neuerung, die darauf abzielte, den Überprüfungsprozess zu beschleunigen und demokratischer zu gestalten.
Wirkung und Ansehen
Die erste ICLR im Jahr 2013 zog eine relativ kleine, aber äußerst engagierte Gemeinschaft an. Im Laufe der Jahre ist die Konferenz erheblich gewachsen und hat sich zu einer der selektivsten und einflussreichsten Veranstaltungen auf diesem Gebiet entwickelt. Die Annahmequote ist konstant niedrig, was die hohe Qualität der eingereichten Beiträge widerspiegelt.
Einfluss und Unterstützung
Die ICLR gilt heute weithin als erstklassige Konferenz, deren Veröffentlichungen oft erhebliche Auswirkungen auf Wissenschaft und Industrie haben. Viele grundlegende Arbeiten im Bereich des tiefen Lernens, darunter Entwicklungen zu großen Sprachmodellen und Multi-Head-Aufmerksamkeit, wurden auf der ICLR vorgestellt. Das offene Begutachtungsverfahren der Konferenz hat auch andere Veranstaltungen beeinflusst, die ähnliche Modelle übernommen haben.
Die Konferenz wird von großen Technologieunternehmen und Forschungseinrichtungen unterstützt, darunter Google DeepMind, OpenAI, Anthropic und die Universität Toronto. Diese industrielle Beteiligung unterstreicht die enge Verbindung zwischen der ICLR-Forschung und praktischen Anwendungen in Bereichen wie der Verarbeitung natürlicher Sprache, dem maschinellen Sehen und der generativen KI.