ImageNet은 WordNet 명사 계층 구조에 따라 구성된 대규모 레이블 이미지 데이터셋으로, 확장하여 매년 열리는 ImageNet 대규모 시각 인식 챌린지(ILSVRC)의 이름으로도 흔히 불린다. 2006년부터 프린스턴과 스탠퍼드 대학의 리페이페이와 동료들이 만든 이 데이터셋은 2009년에 처음 발표되었으며, 이후 약 1,400만 개의 이미지와 2만 개 이상의 범주로 성장했고, 대회에 사용된 ILSVRC 하위 집합은 1,000개의 객체 클래스를 포함한다. ImageNet은 딥러닝 방법을 컴퓨터 비전에 실용적으로 적용하는 데 필요한 데이터 규모를 제공한 것으로 널리 인정받으며, 2012년 대회는 이 분야의 현대적 부흥을 촉발한 순간으로 자주 언급된다.
역사
리페이페이는 시각 인식의 진보가 알고리즘보다는 충분히 크고 다양하며 잘 레이블된 데이터셋의 부재에 의해 제한된다는 신념에서 ImageNet 프로젝트를 시작했다. WordNet 어휘 데이터베이스를 기반으로 팀은 모든 명사 동의어 집합에 대한 이미지를 수집하기 시작했으며, 웹 이미지 검색으로 후보를 모으고 Amazon Mechanical Turk를 통한 크라우드소싱으로 레이블을 검증했다. 전체 데이터셋은 2009년 IEEE 컴퓨터 비전 및 패턴 인식 회의에서 발표되었고, 이듬해 ILSVRC 대회가 시작되어 연구 팀들이 약 120만 개의 훈련 이미지로 구성된 분리된 하위 집합에서 분류 및 탐지 작업을 두고 경쟁했다.
2012년의 돌파구
2012년 ILSVRC는 이 데이터셋의 가장 잘 알려진 순간이다. 알렉스 크리제프스키, 일리야 수츠케버, 그리고 제프리 힌튼이 제출한 합성곱 신경망은 나중에 AlexNet으로 명명되었으며, 대회의 상위 5개 오류율을 약 26%에서 약 15%로 줄였는데, 이는 이전의 연간 개선 폭보다 훨씬 큰 차이였다. 이 결과는 GPU 하드웨어를 사용하여 ImageNet 규모의 레이블 데이터로 깊은 네트워크를 훈련하는 데 의존했으며, 자세한 내용은 ILSVRC 2012 사건에 대한 기사에서 설명된다. 이 승리는 수작업 특징과 다른 머신 러닝 방법을 선호하던 컴퓨터 비전 커뮤니티의 많은 사람들이 대규모 레이블 데이터셋으로 훈련된 깊은 신경망이 기존 접근법을 큰 폭으로 능가할 수 있음을 확신시켰다.
유산과 영향
2012년 이후 ILSVRC 우승자는 거의 매년 깊은 네트워크였으며, VGG, GoogLeNet, ResNet과 같은 아키텍처가 2015년까지 상위 5개 오류율을 5% 미만으로 점진적으로 낮추었는데, 이는 같은 작업에서 인간 주석자에게 일반적으로 attributed되는 오류율보다 낮은 수치였다. ImageNet 사전 훈련은 또한 표준 기법이 되었다: ImageNet 분류용으로 훈련된 모델은 다른 시각 작업의 특성 추출기나 미세 조정 시작점으로 재사용되었으며, 이는 전이 학습의 초기 대규모 사례였다. 공통 벤치마크로서의 데이터셋 역할은 일관된 조건에서 아키텍처를 비교할 수 있게 했으며, 이 관행은 이후 언어 및 추론 모델용 벤치마크가 계승했다. 대회 자체는 2017년까지 운영되었으며, 그 후 조직자들은 오류율이 주석 자체의 노이즈의 실질적 한계에 가깝게 포화되었다고 판단했다.
비판
ImageNet은 또한 대규모 웹 스크래핑 훈련 데이터에 내재된 문제의 사례로 주목받았다. 연구자들은 1,400만 개 이미지 전체 집합의 일부 비객체 범주, 특히 WordNet에서 상속된 "사람" 분기에 공격적이거나 부적절한 레이블이 포함되어 있음을 발견했고, 이로 인해 ImageNet 팀은 2019년에 해당 분기의 상당 부분을 제거하거나 블러 처리했다. 이 사건은 알고리즘 편향과 인터넷 규모 데이터셋을 책임감 있게 큐레이션하는 어려움에 대한 논의에서 자주 인용되는 사례 연구가 되었으며, 이후 생성 모델 사전 훈련에 사용된 텍스트 및 이미지 말뭉치에 대한 유사한 논쟁을 예고했다.