国際会議「学習表現に関する国際会議」（ICLR）は、機械学習の分野における著名な学術会議であり、2013年に初めて開催された。この会議は、学習表現、特に深層学習とニューラルネットワークに関する研究に特化している。NeurIPSやICMLと並んで、ICLRは機械学習および人工知能研究において最も影響力と評価の高い三大会議の一つと見なされている。
この会議は、2012年にヤン・ルカンとヨシュア・ベンジオによって設立され、初回の開催は2013年であった。設立当初から、ICLRは論文投稿に対してオープンピアレビュー方式を採用しており、これはルカンが提唱したモデルである。このアプローチにより、投稿されたすべての論文とレビューがオンラインで公開され、多くの他の会議で採用されている伝統的な二重盲検レビューとは対照的である。
会議形式
ICLRは通常、毎年4月下旬から5月上旬に開催される。プログラムには、招待講演、口頭発表、および査読付き論文のポスターセッションが含まれる。オープンレビュープロセスはこの会議の特徴的な要素であり、採択決定が下される前にコミュニティが投稿内容に対してコメントを付けることを可能にしている。この透明性は、アイデアの迅速な普及と、より協力的な科学的議論を促進することを目的としている。
この会議は幅広いトピックを扱っており、その中には以下が含まれるがこれに限定されない：教師なし学習および半教師あり学習、生成モデル、Adamオプティマイザなどの最適化手法、その他のSGDの変種、ドロップアウトやバッチ正規化などの正則化技法、そしてトランスフォーマーや残差ネットワークなどのアーキテクチャ。
設立の動機
ICLRの設立は、2010年代初頭における深層学習への関心の急速な高まりによって動機づけられた。この分野の先駆者であるルカンとベンジオは、学習表現に特化した発表の場を創設しようと試み、既存のNeurIPSやICMLなどの会議ではこのトピックが十分に扱われていないと感じていた。オープンレビューモデルは重要な革新であり、レビュープロセスを迅速化し、より民主的なものにすることを目的として設計された。
2013年の初回ICLRは、小規模ながら非常に熱心なコミュニティを集めた。その後、この会議は大幅に成長し、現在ではこの分野で最も選抜性が高く、影響力のある会議の一つとなっている。その採択率は一貫して低く、投稿の質の高さを反映している。
影響と評価
ICLRは現在、最高水準の会議として広く認識されており、そこで発表される論文は学界と産業界の両方に大きな影響を与えることが多い。深層学習における多くの基礎的業績、例えば大規模言語モデルやマルチヘッドアテンションの発展がICLRで発表されている。また、この会議のオープンレビュープロセスは他の会議にも影響を与えており、いくつかの会議では同様のモデルを採用している。
この会議は、Google DeepMind、OpenAI、Anthropic、トロント大学などの主要なテクノロジー企業や研究機関によって支援されている。このような産業界の関与は、自然言語処理、コンピュータビジョン、生成AIなどの分野におけるICLRの研究と実用的応用との密接な結びつきを強調している。
開催履歴
2013年以来、ICLRは毎年開催されている。開催地は、アメリカ合衆国、カナダ、ヨーロッパ、アジアなど様々な場所で行われてきた。この会議は、投稿数と参加者数の両方において一貫して成長を続けており、機械学習研究の範囲の拡大を反映している。2020年代初頭の時点で、ICLRは毎年数千件の投稿を受け付けており、この分野で最大かつ最も競争の激しい会議の一つとなっている。
また、この会議にはワークショップやチュートリアルも含まれており、研究者が進行中の研究を発表し、新たなトピックについて議論する追加の機会を提供している。オープンレビュープロセスはこれらの付随イベントにも適用されており、透明性へのコミットメントを維持している。