퍼셉트론은 1958년 프랭크 로젠블랫이 도입한 이진 분류기의 지도 학습을 위한 알고리즘이다. 이는 가중치 집합과 특성 벡터를 결합한 선형 예측 함수를 기반으로 예측을 수행하는 선형 분류기의 한 유형이다. 퍼셉트론은 초기의 한계에도 불구하고 최초로 널리 주목받은 신경망 모델이 되었으며, 현대 기계 학습과 심층 학습의 토대를 마련했다.
기원과 초기 발전
인공 뉴런의 개념은 1943년 워런 매컬록과 월터 피츠가 "신경 활동에 내재한 아이디어의 논리적 미적분"을 발표하면서 시작되었다. 1957년, 코넬 항공 연구소에서 근무하던 프랭크 로젠블랫은 IBM 704에서 퍼셉트론을 시뮬레이션했다. 그는 하드웨어 구현에 더 관심이 많았으며, 미국 해군 연구청 정보 시스템 지부와 로마 항공 개발 센터로부터 자금을 지원받아 맞춤형 아날로그 컴퓨터인 마크 I 퍼셉트론을 제작했다. 로젠블랫은 1958년 논문에서 퍼셉트론을 감각(S), 연합(A), 반응(R)의 세 가지 유형의 단위로 구성하여 설명했다. 그는 1958년 11월 첫 국제 AI 심포지엄인 "사고 과정의 기계화"에서 자신의 연구를 발표했다.
마크 I 퍼셉트론 기계
마크 I 퍼셉트론은 1959년 6월에서 12월 사이에 제작되었으며, 1960년 6월 23일에 공개 시연되었다. 이 기계는 20x20 격자로 배열된 400개의 광전지(S-유닛), 512개의 연합 유닛으로 구성된 은닉층(A-유닛), 그리고 8개의 반응 유닛으로 구성된 출력층(R-유닛)의 세 층으로 이루어져 있었다. 로젠블랫은 이를 알파-퍼셉트론이라고 불렀다. S-유닛은 의도적 편향을 피하기 위해 플러그보드를 통해 A-유닛에 무작위로 연결되었으며, 이는 망막이 시각 피질에 무작위로 연결된다는 로젠블랫의 신념을 반영한 것이다. A에서 R로의 연결은 학습 중 전기 모터로 업데이트되는 전위차계에 인코딩된 조정 가능한 가중치를 가졌다. 이 기계는 현재 스미소니언 국립 미국 역사 박물관에 소장되어 있다.
1958년 미 해군이 조직한 기자 회견에서 로젠블랫은 대담한 주장을 했고, 이로 인해 뉴욕 타임스는 퍼셉트론을 "걷고, 말하고, 보고, 쓰고, 스스로 재생산하며 자신의 존재를 의식할 수 있을 것으로 해군이 기대하는 전자 컴퓨터의 배아"라고 묘사했다. 이는 초기 AI 커뮤니티에서 논란을 일으켰다. 1960년부터 1964년까지 CIA 사진부는 항공 사진에서 군사적으로 흥미로운 실루엣 표적을 인식하기 위해 마크 I을 연구했다.
신경 역학의 원리 (1962)
로젠블랫은 1961년 보고서를 기반으로 한 1962년 저서 "신경 역학의 원리"에서 퍼셉트론 변형 실험을 자세히 설명했다. 변형에는 교차 결합(같은 층 내 연결), 역방향 결합(나중 층에서 이전 층으로의 연결), 마지막 두 층에 조정 가능한 가중치를 가진 4층 퍼셉트론, 순차 데이터를 위한 시간 지연 유닛, 오디오 분석이 포함되었다. 이 기계는 1967년 정부 이전을 통해 스미소니언으로 이송되었다.
한계와 1969년 비판
단일 층 퍼셉트론은 선형 분리 가능한 패턴만 학습할 수 있다. 계단 활성화 함수를 가진 단일 노드는 하나의 분할선을 만들지만, 더 많은 노드는 더 많은 선을 만들 수 있어도 이를 복잡한 분류로 결합할 수는 없다. 두 번째 층의 퍼셉트론이나 선형 노드는 많은 비분리 문제를 해결할 수 있다. 1969년, 마빈 민스키와 시모어 파퍼트의 저서 "퍼셉트론"은 단일 층 퍼셉트론이 XOR 함수를 학습할 수 없음을 보여주었으며, 이 결과는 종종 신경망이 근본적으로 제한적임을 증명한 것으로 잘못 해석되었다. 이는 신경망 연구가 수년간 침체되는 데 기여했으며, 이후 다층 퍼셉트론(두 개 이상의 층)이 더 큰 처리 능력을 제공한다는 인식이 생기면서 해소되었다.
유산과 영향
퍼셉트론의 도입은 인공 지능 역사에서 중요한 전환점을 표시하며 신경망 패러다임을 확립했다. 초기의 좌절에도 불구하고, 퍼셉트론의 원리는 대규모 언어 모델에 사용되는 트랜스포머 모델을 포함한 현대 심층 학습 아키텍처의 기반이 된다. 로젠블랫의 연구는 MIT CSAIL과 스탠포드 AI 연구소 같은 기관의 후속 발전에 영향을 미쳤으며, 그 유산은 현대 AI 연구와 응용 분야에서 지속되고 있다.