노버트 위너(1894-1964)는 사이버네틱스 분야를 창시한 미국의 수학자로, 동물과 기계에서의 제어와 통신에 관한 연구를 개척했으며, 자동화의 사회적 결과에 대해 공개적으로 경고한 최초의 저명한 과학자 중 한 명이었다.
수학적 경력
열한 살에 터프츠 칼리지에 입학하고 열여덟 살에 하버드에서 박사 학위를 받은 신동이었던 위너는 확률 과정과 푸리에 해석을 포함한 수학 전반에 걸쳐 연구했으며, 제2차 세계 대전 중과 이후에는 기동하는 표적의 미래 위치를 예측해야 했던 대공 화력 통제 시스템 연구에 참여하면서 피드백과 제어 시스템 연구로 방향을 전환했다.
사이버네틱스
1948년 저서 "사이버네틱스: 동물과 기계에서의 제어와 통신"에서 위너는 시스템의 출력을 측정하여 미래 행동을 조정하는 메커니즘인 피드백 루프가 공학, 생물학, 사회 전반의 제어 과정을 이해하는 통합적 틀을 제공한다고 주장했다. 이 책에서 설명된 피드백 개념은 현대 공학 전반의 자율 조절 시스템의 기초가 되었으며, 보상 신호에 따라 에이전트가 행동을 조정하는 강화 학습의 후속 연구로 이어지는 계보에서 자기 교정 및 적응 기계에 대한 초기 사고에 형성적 영향을 미쳤다.
자동화에 대한 경고
동시대의 많은 학자들과 달리 위너는 자신이 창조하는 데 기여한 기술의 사회적 영향에 대해 깊이 우려했다. 1950년 저서 "인간의 인간적 사용"은 사이버네틱스 개념을 사회로 확장했으며, 피드백 제어 기계에 의해 구동되는 자동화가 노동자를 대체하고 권력을 집중시킬 수 있다고 경고했다. 이러한 주장은 AI 윤리와 AI 거버넌스에서 점점 더 강력해지는 자동화 시스템의 노동 및 사회적 영향에 관한 후속 논쟁을 예고했다. 그는 특히 군사적 의사 결정에 사이버네틱스 기계를 사용하는 것에 대해 회의적이었으며, 책임을 물을 수 없는 시스템에 중대한 판단을 위임하는 것에 반대한다고 경고했다. 이러한 우려는 현대의 AI 안전 및 자율 무기에 관한 논의에서도 반향을 일으키고 있다.
유산
위너는 1956년 다트머스 워크숍에서 인공지능이 공식적으로 창설되기 이전의 인물이며, 존 매카시와 마빈 민스키 같은 젊은 학자들이 포함된 그 커뮤니티의 일원은 아니었지만, 그의 피드백 및 자율 조절 프레임워크는 이 분야의 직접적인 지적 선구자로 간주되며, 사이버네틱스는 종종 초기 AI의 자매 학문으로 묘사된다. 자동화와 책임성에 대한 그의 초기 경고는 기술이 구체화되기 훨씬 이전에 AI 안전 및 AI 윤리로 인식될 문제들의 최초 사례로 자주 인용된다.