国際学習表現会議（ICLR）は、機械学習と人工知能における主要な学術会議であり、深層ニューラルネットワークの表現学習の側面に特化して設立された。2013年に創設され、ICLRはNeurIPSやICMLと並んで、この分野で最も影響力のある3つの会議の1つとして常にランク付けされ、毎年数千件の投稿を集めている。その特徴的な点は、論文投稿と査読者のコメントが公開されるオープンピアレビュープロセスであり、このモデルはヤン・ルカンの提案に触発され、2012年に共同創設者であるヤン・ルカンとヨシュア・ベンジオによって正式化された。
起源と設立
ICLRの設立は、既存の会議が表現学習を中心的な研究テーマではなくサブトピックとして扱うことが多かったという認識されたギャップから生じた。2012年、当時ニューヨーク大学にいたヤン・ルカンとモントリオール大学のヨシュア・ベンジオは、ニューラルネットワークや深層学習モデルなどのアーキテクチャを含む表現学習に特化した新しい会議を提案した。彼らは、Journal of Machine Learning Researchで使用されたものなど、オープンレビューの初期の実験を参考にして、透明性を高め科学的議論を加速するプロセスを設計した。第1回は2013年5月2日から4日まで米国アリゾナ州スコッツデールで開催され、400人以上の参加者を集めた。
当初から採用されたオープンレビュー形式は、従来の二重盲検レビューから逸脱していた。代わりに、投稿は公開プラットフォームに掲載され、登録メンバーなら誰でもコメントでき、指定された査読者は公開討論と並行して正式な評価を提供する。このアプローチは、論文の質を向上させコミュニティの関与を促進したと評価されているが、査読者の作業負荷や潜在的なバイアスに関する批判にも直面している。
成長と影響
初年度の約200件の投稿から、ICLRは規模と名声の両方で急速に成長した。2020年までに、会議は2,500件以上の投稿を受け、2024年までにその数は7,000件を超え、メイントラックの採択率は30パーセント未満となった。会議は通常4月下旬または5月上旬に開催され、北米とヨーロッパの都市を交互に巡回し、2020年以降はバーチャルコンポーネントが追加された。その議事録はOpenReviewプラットフォームを通じて公開され、すべての論文の公開レビュー履歴を引き続きホストしている。
ICLRの影響は、その引用指標と、生成AIやトランスフォーマーアーキテクチャの進歩における掲載論文の普及によって証明されている。大規模言語モデルに関する多くの基礎研究（スケーリング則や注意機構に関する研究を含む）がICLRで初めて発表された。会議はまた、「再現性チャレンジ」などの注目すべき革新を導入し、発表された結果の独立した検証を奨励し、最優秀論文賞や優秀学生論文賞を設立した。
会議構成
各ICLR版は数日間にわたり、主要研究者による招待講演、選ばれた論文の口頭発表、広範なポスターセッションを含む。プログラム委員会は、学界と産業界からの上級エリアチェアと査読者で構成され、標準的な投稿トラックと、型にはまらないアイデアを奨励するために2020年に導入されたより投機的な「ブレインストーム」トラックの二重トラックシステムで運営されている。注目すべきことに、ICLRはまた、10年前の論文で持続的な影響を与えたものを認識する「時の試練」賞も実験している。
会議の歴史における主要人物には、創設総合チェアであるルカンとベンジオ、およびその後のプログラムチェアであるヨシュア・ベンジオ（2016年）やコライ・カブクチュオール（2018年）が含まれる。会議は産業研究所との強いつながりを維持し、OpenAI、Google DeepMind、Anthropicの研究者からの定期的な貢献があり、現代の深層学習研究の応用的性質を反映している。
批判と進化
オープンレビューモデルは革新的である一方、精査を受けてきた。一部の研究者は、公開コメントがリスクの高い研究を妨げたり、敵対的な力学を生み出したりする可能性があると主張している。これに応じて、ICLRは定期的に方針を調整し、著者が初期レビュー期間中に公開コメントをオプトアウトできるようにしたり、2022年に討論と最終決定を分離する2段階レビューサイクルを導入したりした。さらに、会議の成長はレビューの質に関する懸念につながり、これに対処するため、ICLRはエリアチェアの数を増やし、「一貫性チェック」システムを実装した。
これらの課題にもかかわらず、ICLRは深層学習と人工知能における画期的な成果を広める中心的な場であり続け、学術研究と産業展開の両方を形成している。その開放性と表現学習への焦点という創設原則は他の会議に影響を与えたが、そのモデルを完全に複製したものはない。
関連項目
- ICML - 国際機械学習会議
- NeurIPS - 神経情報処理システム会議
- AAAI人工知能会議 - より長い歴史を持つより広範なAI会議
参考文献
- ヤン・ルカンとヨシュア・ベンジオ、ICLR創設声明、2012年。
- ICLR議事録、OpenReview、2013-2024年。
- 公式発表およびアーカイブ記録に報告された会議統計と採択率。