AlexNet은 이미지 분류 작업에서 딥러닝의 혁명을 일으킨 선구적인 합성곱 신경망(CNN)입니다. 2012년 Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton이 개발했으며, ImageNet Large Scale Visual Recognition Challenge(ILSVRC)에서 압도적인 성능으로 우승하며 딥러닝의 부상을 알렸습니다.
주요 특징:
- 깊은 구조: 당시로서는 매우 깊은 8개 층(5개의 합성곱 층과 3개의 완전 연결 층)으로 구성되어 더 복잡한 특징을 학습할 수 있었습니다.
- ReLU 활성화 함수: 포화 문제가 있는 tanh나 시그모이드 대신 ReLU(Rectified Linear Unit)를 사용하여 학습 속도를 크게 향상시켰습니다.
- 드롭아웃(Dropout): 과적합을 방지하기 위해 완전 연결 층에 드롭아웃 기법을 적용했습니다.
- GPU 활용: 두 개의 GPU를 병렬로 사용하여 대규모 연산을 효율적으로 처리했습니다.
- 데이터 증강(Data Augmentation): 이미지 변환(이동, 반전 등)을 통해 학습 데이터를 늘려 모델의 일반화 성능을 높였습니다.
성과 및 영향:
- ILSVRC-2012에서 오류율 15.3%를 기록하며 2위(26.2%)를 크게 앞서며 우승했습니다.
- 딥러닝 기반 컴퓨터 비전 연구의 폭발적인 성장을 촉발시켰습니다.
- 이후 등장한 VGGNet, GoogLeNet, ResNet 등 수많은 현대 CNN 아키텍처의 기반이 되었습니다.
- 컴퓨터 비전 분야를 넘어 자연어 처리, 음성 인식 등 다양한 분야의 딥러닝 발전에도 큰 영향을 미쳤습니다.
한계:
- 당시 기술로는 매우 큰 모델이었지만, 오늘날의 기준으로는 비교적 얕고 단순한 구조입니다.
- 많은 메모리와 계산량을 필요로 합니다.
- 완전 연결 층이 커서 과적합 위험이 있습니다.
그럼에도 불구하고 AlexNet은 딥러닝의 가능성을 입증하고 현대 인공지능 시대를 여는 데 결정적인 역할을 한 중요한 이정표입니다.