퍼셉트론은 초기 인공 뉴런 모델이자 선형 이진 분류기로, 1958년 심리학자 프랭크 로젠블랫이 소개했으며, 신경망과 인공지능의 연결주의 전통에서 기초적인 구성 요소 중 하나로 널리 간주된다. 입력의 가중 합을 계산하고 편향 항을 더한 다음, 계단 함수를 통과시켜 두 클래스 중 하나를 출력한다.
메커니즘
로젠블랫의 퍼셉트론은 숫자 입력 벡터를 받아 각각을 조정 가능한 가중치와 곱하고, 결과를 합산한 후 임계값과 비교하여 이진 출력을 생성한다. 가중치는 단순한 지도 학습 규칙인 퍼셉트론 학습 알고리즘을 통해 조정되며, 이는 레이블이 지정된 훈련 예제에서 분류 오류를 줄이는 방향으로 가중치를 밀어낸다. 퍼셉트론 수렴 정리는 이 절차가 유한한 단계 내에 분리 해를 찾을 것을 보장하지만, 훈련 데이터가 선형 분리 가능한 경우에만 해당한다. 즉, 두 클래스를 나눌 수 있는 단일 직선 또는 고차원에서의 초평면이 존재해야 한다.
1958년 공개
로젠블랫은 미국 해군 연구소의 자금 지원을 받아 코넬 항공 연구소에서 퍼셉트론을 구축했으며, 광전지 격자를 시각 입력으로 사용하는 초기 하드웨어 구현인 Mark I 퍼셉트론을 시연했다. 당시 언론 보도, 특히 1958년 뉴욕 타임스 기사는 이 기계가 결국 "걷고, 말하고, 보고, 쓰고, 스스로를 복제하며, 자신의 존재를 의식할" 수 있을 것이라는 주장을 묘사했으며, 이는 AI 과대광고의 초기 사례로, 이후 기술의 한계가 드러나면서 실망으로 이어졌다.
민스키-파퍼트 비판
1969년, 마빈 민스키와 시모어 파퍼트는 "퍼셉트론"을 출판하여 단일 계층 퍼셉트론이 선형 분리 불가능한 문제, 가장 유명하게는 XOR 논리 함수를 해결할 수 없음을 보여주는 엄밀한 수학적 분석을 제시했다. 이 책은 다중 계층 네트워크가 원칙적으로 이 한계를 극복할 수 있음을 인정했지만, 공정하든 아니든 신경망 연구에 대한 광범위한 반대 논거로 널리 해석되었으며, 1970년대와 그 이후의 AI 겨울까지 지속된 자금과 관심의 급격한 감소에 기여한 것으로 종종 평가된다.
유산과 다중 계층 퍼셉트론
뉴런 기반 모델에 대한 관심은 1980년대 역전파가 데이비드 럼멜하트와 동료들에 의해 대중화되면서 부활했으며, 이 알고리즘은 입력과 출력 사이에 하나 이상의 은닉 계층을 가진 네트워크인 다중 계층 퍼셉트론을 훈련하는 것을 실용적으로 만들었고, 이는 비선형 결정 경계를 표현하고 민스키와 파퍼트가 식별한 정확한 한계를 극복할 수 있다. 다중 계층 퍼셉트론 아키텍처는 현대 딥러닝 시스템의 기본 구성 요소로 남아 있으며, 로젠블랫의 원래 단일 계층 모델은 이제 주로 경사 하강법 기반 학습과 머신러닝의 광범위한 발전을 이해하기 위한 역사적 및 교육적 출발점으로 가르쳐진다.