국제학습표현회의(International Conference on Learning Representations, ICLR)는 기계 학습 분야의 저명한 학술 회의로, 2013년에 처음 개최되었다. 이 회의는 특히 딥 러닝과 신경망에 중점을 둔 학습 표현 연구에 전념한다. NeurIPS 및 ICML과 함께 ICLR는 인공 지능 연구에서 가장 영향력 있고 명성이 높은 세 개의 주요 학회 중 하나로 간주된다.
이 회의는 2012년 얀 르쿤과 요슈아 벤지오에 의해 설립되었으며, 첫 행사는 2013년에 열렸다. 설립 초기부터 ICLR는 논문 제출에 대한 공개 심사(open peer review) 방식을 채택했는데, 이는 르쿤이 제안한 모델이다. 이 접근 방식은 모든 제출 논문과 심사 의견을 온라인에 공개하여, 많은 다른 학회에서 사용하는 전통적인 이중 맹검 심사 방식과 차별화된다.
학회 형식
ICLR는 일반적으로 매년 4월 말 또는 5월 초에 개최된다. 학회 프로그램에는 초청 강연, 구두 발표, 포스터 발표 등이 포함된다. 공개 심사 과정은 학회의 주요 특징으로, 논문이 채택되기 전에 커뮤니티가 제출물에 대해 논평할 수 있게 한다. 이러한 투명성은 아이디어의 빠른 유포와 보다 협력적인 과학적 논의를 촉진하기 위한 것이다.
주요 주제
이 학회는 생성형 모델, Adam 및 기타 SGD 변형과 같은 최적화 방법, 드롭아웃 및 배치 정규화와 같은 정규화 기법, 그리고 트랜스포머 및 잔차 네트워크와 같은 아키텍처를 포함한 광범위한 주제를 다룬다.
설립 배경
ICLR의 설립은 2010년대 초 딥 러닝에 대한 관심이 급증하면서 비롯되었다. 르쿤과 벤지오는 당시 NeurIPS나 ICML과 같은 기존 학회가 충분히 다루지 못했던 학습 표현이라는 주제에 특화된 학회의 필요성을 느꼈다. 공개 심사 모델은 심사 주기를 단축하고 과정을 보다 민주적으로 만들기 위해 고안된 혁신이었다.
영향력과 명성
2013년 첫 학회는 비교적 작지만 매우 열성적인 커뮤니티를 끌어모았다. 수년에 걸쳐 학회는 크게 성장하여 현재는 기계 학습 분야에서 가장 선별적이고 영향력 있는 학회 중 하나가 되었다. 제출 논문 수가 꾸준히 증가하면서 경쟁률도 매우 높아졌다. ICLR에 게재된 많은 논문은 학계와 산업계 모두에 중대한 영향을 미쳤으며, 특히 대규모 언어 모델과 멀티 헤드 어텐션과 같은 분야의 발전이 두드러진다.
후원 및 산업 협력
이 학회는 Google DeepMind, OpenAI, Anthropic, 토론토 대학교를 포함한 주요 기술 기업과 연구 기관의 지원을 받는다. 이러한 산업계의 참여는 자연어 처리, 컴퓨터 비전, 생성형 AI와 같은 분야에서 ICLR 연구와 실제 응용 사이의 긴밀한 연관성을 반영한다.
성장과 발전
2013년 이후 ICLR는 매년 개최되며, 미국, 캐나다, 유럽, 아시아 등 다양한 지역에서 열렸다. 학회는 제출 논문 수와 참가자 수 모두에서 꾸준히 성장해 왔으며, 이는 기계 학습 연구의 범위 확대를 반영한다. 2020년대 초반에는 매년 수천 건의 논문이 제출되어 가장 크고 경쟁이 치열한 학회 중 하나가 되었다.
학회는 또한 워크숍과 튜토리얼을 포함하며, 연구자들에게 진행 중인 연구를 발표하고 새로운 주제를 논의할 수 있는 추가 기회를 제공한다. 공개 심사 과정은 이러한 부대 행사에도 적용되어 학회의 투명성에 대한 헌신을 유지한다.