2012년 ImageNet 대규모 시각 인식 챌린지(ILSVRC)는 ImageNet 데이터셋을 기반으로 한 연례 컴퓨터 비전 대회로, 토론토 대학의 Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton이 개발한 심층 합성곱 신경망인 AlexNet이 우승을 차지했다. 이 결과는 현대 딥러닝 시대를 연 단일 사건으로 널리 간주된다.
대회
2010년부터 매년 개최된 ILSVRC는 참가자들이 ImageNet의 약 120만 개의 라벨링된 훈련 사진을 1,000개의 객체 범주 중 하나로 분류하도록 요구했으며, 이미지 인식 발전의 표준 벤치마크가 되었다. 2010년과 2011년의 참가작들은 주로 수작업으로 설계된 특징 추출 방법과 고전적인 머신러닝 분류기를 결합했으며, 연간 오류율 개선은 일반적으로 몇 퍼센트 포인트에 불과한 점진적인 수준이었다.
AlexNet의 결과
Alex Krizhevsky의 참가작은 그의 팀이 두 개의 소비자용 GPU로 약 일주일 동안 훈련시켜 top-5 오류율 15.3%를 달성했으며, 이는 2위 참가작의 26.2%에 비해 거의 10퍼센트 포인트의 격차로, 대부분 심층 신경망 접근법을 사용하지 않던 컴퓨터 비전 연구 커뮤니티를 충격에 빠뜨렸다. AlexNet의 아키텍처는 여러 합성곱 층, ReLU 활성화 함수, 드롭아웃 정규화, 데이터 증강을 결합했는데, 이러한 기법들은 개별적으로는 알려져 있었지만 이 규모에서 결합되어 GPU 하드웨어에서 성공적으로 훈련된 적은 없었으며, 이는 부분적으로 NVIDIA의 CUDA 플랫폼 덕분에 가능했다.
여파와 영향
AlexNet이 경쟁 방법들에 대해 보인 압도적인 격차는 약 2년 만에 AI 연구의 궤적을 바꾸었다. 컴퓨터 비전 연구는 거의 전적으로 신경망 접근법으로 전환되었고, 대규모 라벨링된 데이터셋, GPU 연산, 심층 아키텍처의 결합이 이후 자연어 처리 및 다른 분야의 발전이 따르게 될 템플릿이 되었다. 이후 ILSVRC 우승작들은 점점 더 깊은 심층 합성곱 신경망을 계속 사용했으며, 2015년에는 벤치마크의 오류율이 추정된 인간 성능 아래로 떨어져 대회 주최측은 분류 트랙을 사실상 해결된 것으로 간주하고 폐지했다. 2012년 결과는 원래의 역전파 연구와 이후의 Transformer 논문과 함께 2020년대의 대규모 언어 모델을 탄생시킨 딥러닝 붐에 가장 크게 기여한 소수의 기술적 결과 중 하나로 흔히 인용되며, 2024년 노벨상을 받기 수년 전부터 Hinton을 이 분야의 중심 인물로 확고히 자리매김하게 했다.