国际学习表征会议(ICLR)是机器学习领域的一个著名学术会议,首次举办于2013年。它致力于学习表征的研究,特别是深度学习和神经网络。与NeurIPS和ICML一起,ICLR被认为是机器学习和人工智能研究中影响力最大、声誉最高的三大主要会议之一。
该会议由Yann LeCun和Yoshua Bengio于2012年创立,首届活动于2013年举行。自成立之初,ICLR就对论文提交采用了开放同行评审流程,这一模式由LeCun提出。这种方法使得所有提交的论文和评审意见都能在线公开获取,与许多其他会议使用的传统双盲评审形成了对比。
会议形式
ICLR通常在每年四月末或五月初举行。会议内容包括特邀演讲、口头报告和评审论文的海报展示。开放评审过程是其一个显著特征,允许社区在接受决定之前对提交的论文进行评论。这种透明性旨在促进思想的快速传播和更具合作性的学术交流。
会议涵盖的主题广泛,包括但不限于:无监督和半监督学习、生成模型、优化方法(如Adam优化器和其他SGD变体)、正则化技术(如dropout和批量归一化),以及架构(如变换器和残差网络)。
创立与动机
ICLR的成立受到21世纪10年代初深度学习兴趣快速增长的推动。LeCun和Bengio都是该领域的先驱者,他们希望创建一个专注于学习表示的场所,他们认为当时的NeurIPS和ICML等现有会议对此覆盖不足。开放评审模式是一项关键创新,旨在加速评审周期并使过程更加民主化。
2013年的首届ICLR吸引了相对较小但高度参与的人员群体。多年来,会议规模显著增长,成为了该领域中最严格和最具影响力的场地之一。其录用率始终保持较低,反映了提交论文的高质量。
影响与声誉
ICLR现在被广泛认为是一流会议,会上发表的论文对学术界和工业界经常产生重大影响。深度学习中的许多基础性工作,包括大型语言模型和多头注意力的发展,都曾在ICLR上报告过。该会议的开放评审过程也影响了其他会议,有些已采用类似的模式。
该会议得到major tech companies and research institutions,包括谷歌深度思维、OpenAI、Anthropic和多伦多大学等支持。这种产业界的参与加强了ICLR研究在自然语言处理、计算机视觉和生成式AI等领域的实际应用之间的紧密联系。
各届和增长
自2013年以来,ICLR每年举行一次。举办地有所不同,包括美国、加拿大、欧洲和亚洲。会议在投稿数量和参与度方面持续增长,这反映了机器学习研究对象不断扩大的范围。截至2020年代初,ICLR每年收到数千篇投稿,使其成为该领域最大、最有竞争性的会议之一。
会议还包括工作坊和教程,为研究者提供展示进行中工作和讨论新兴主题的额外机会。开放评审过程也扩展到了这些附属活动,保持了对透明的承诺。