ノーバート・ウィーナー（1894年-1964年）は、アメリカの数学者であり、サイバネティクス、すなわち動物と機械における制御と通信の研究分野を創設し、自動化の社会的影響について公に警告した最初の著名な科学者の一人でもあった。
数学的経歴
11歳でタフツ大学に入学し、18歳でハーバード大学の博士号を取得した神童であるウィーナーは、確率過程やフーリエ解析を含む数学の広い分野で研究を行い、その後、第二次世界大戦中および戦後に、機動する標的の未来位置を予測しなければならない対空射撃管制システムに取り組む中で、フィードバックと制御システムの研究へと転じた。
サイバネティクス
1948年の著書『サイバネティクス：動物と機械における制御と通信』において、ウィーナーは、システムの出力を測定し、その将来の挙動を調整するために使用するメカニズムであるフィードバックループが、工学、生物学、社会における制御プロセスを理解するための統一的な枠組みを提供すると論じた。この本で記述されたフィードバックの概念は、現代工学全体にわたる自己調整システムの基盤となっており、自己修正・適応機械に関する初期の思考に形成的な影響を与えた。その系譜は、後のReinforcement learningの研究にも通じており、そこではエージェントが報酬信号に基づいて挙動を調整する。
自動化への警告
同時代の多くの人々とは異なり、ウィーナーは自身が生み出した技術の社会的影響について深く懸念していた。1950年の著書『人間の人間的利用』では、サイバネティクスの考えを社会に拡張し、フィードバック制御された機械による自動化が労働者を追い出し、権力を集中させる可能性があると警告した。これらの議論は、後のAI ethicsやAI governanceにおける、ますます高性能化する自動システムの労働および社会的影響に関する議論を先取りするものであった。彼は特に、サイバネティクス機械を軍事的意思決定に使用することに懐疑的であり、責任を問えないシステムに重大な判断を委ねることに警告を発した。この懸念は、現代のAI safetyや自律兵器に関する議論にも反映されている。
遺産
ウィーナーは、1956年のDartmouth workshopでのArtificial intelligenceの正式な創設に先立つ人物であり、若いJohn McCarthyやMarvin Minskyを含むそのコミュニティの一員ではなかったが、彼のフィードバックと自己調整の枠組みは、この分野への直接的な知的先駆者と見なされており、サイバネティクスは初期AIの姉妹分野としばしば説明される。自動化と説明責任に関する彼の初期の警告は、後にAI安全性やAI倫理として認識されることになる問題の最初の例のいくつかとして頻繁に引用されており、それらを具体化する技術が存在するずっと前のことである。