후쿠시마 구니히코는 일본의 컴퓨터 과학자로, 1980년에 발표한 네오코그니트론이 오늘날 대부분의 Computer vision 시스템의 기반이 되는 아키텍처인 현대 Convolutional neural network(CNN)의 직접적인 개념적 선조로 널리 인정받고 있다.
네오코그니트론
1936년에 태어난 후쿠시마는 일본 NHK 과학기술연구소에서 경력의 대부분을 보냈으며, 이후 오사카 대학을 포함한 학계의 직책을 맡았다. 데이비드 허블과 토르스텐 비젤이 고양이의 시각 피질에서 발견한 단순 세포와 복합 세포에 대한 신경생리학적 발견에 기반하여, 후쿠시마는 특징을 감지하는 "S-세포"와 위치에 관대한 "C-세포"가 번갈아 배열된 다층 Neural network를 설계했다. 이 구조는 입력 이미지의 작은 이동이나 왜곡에도 불구하고 손으로 쓴 문자와 단순한 모양을 인식할 수 있게 했다. 각 층이 아래 층에서 더 추상적인 특징을 구축하고 풀링 연산이 어느 정도의 변환 불변성을 제공하는 이 계층적 구조는 이후 CNN에서 사용된 합성곱-풀링 설계를 예고했다.
네오코그니트론은 다층 네트워크에 아직 널리 보급되지 않았던 종단 간 Backpropagation 대신 비지도적이고 층별로 진행되는 학습 규칙을 사용하여 훈련되었다. 이는 이후의 아키텍처만큼 효율적으로 훈련되거나 확장될 수 없었지만, 그 구조적 아이디어는 오래 지속되었다.
영향
Yann LeCun은 네오코그니트론이 1980년대 후반과 1990년대 벨 연구소에서 개발한 LeNet과 더 넓은 CNN 계열, 특히 국소 수용 영역과 풀링의 개념에 직접적인 영향을 주었다고 반복해서 인정했다. 이 계보는 2012년 AlexNet 결과에서 사용된 CNN을 통해 이어져 Deep learning으로의 주류 전환을 촉발했으며, 오늘날 현대 컴퓨터 비전과 일부 Multimodal AI 시스템에서 사용되는 아키텍처에도 계속된다. 후쿠시마는 IEEE 신경망 개척자상과 2021년 바워 과학상 및 상금을 포함한 인정을 받았으며, 초기 Perceptron 연구에서 확인된 한계가 이후의 경사 기반 훈련 방법으로 완전히 해결되기 훨씬 전에 생물학적 영감을 받은 컴퓨팅이 지배적인 공학 아키텍처를 직접 형성한 분야의 가장 명확한 사례 중 하나로 남아 있다. 그의 아이디어를 바탕으로 나중에 구축한 많은 연구자들과 달리, 후쿠시마는 대부분의 후속 유명한 돌파구를 만들어낸 미국의 대학 및 기업 연구소 네트워크가 아닌 일본의 산업 및 학계 연구소에서 주로 일했으며, 이는 전문가 집단 외부에서 그의 상대적으로 제한된 공개적 인지도가 논의될 때 자주 언급되는 사실이다.