パーセプトロンは、初期の人工ニューロンモデルであり線形二値分類器で、1958年に心理学者のフランク・ローゼンブラットによって導入され、ニューラルネットワークおよび人工知能におけるコネクショニズムの伝統の基礎的構成要素の一つとして広く認識されている。入力の重み付き和を計算し、バイアス項を加え、その結果をステップ関数に通して2つのクラスのいずれかを出力する。
メカニズム
ローゼンブラットのパーセプトロンは、数値入力のベクトルを取り、各入力に調整可能な重みを掛け、結果を合計し、その合計を閾値と比較して二値出力を生成する。重みは、単純な教師あり学習規則であるパーセプトロン学習アルゴリズムを通じて調整され、ラベル付き訓練例における分類誤差を減らす方向に重みを微調整する。パーセプトロン収束定理は、この手順が有限回のステップで分離解を見つけることを保証するが、それは訓練データが線形分離可能である場合、つまり単一の直線、または高次元では超平面が2つのクラスを分割できる場合に限られる。
1958年の発表
ローゼンブラットは、米国海軍研究事務所からの資金提供を受けてコーネル航空研究所でパーセプトロンを構築し、初期のハードウェア実装であるMark Iパーセプトロンを、視覚入力として光電池のグリッドを使用して実演した。当時の報道、特に1958年のニューヨーク・タイムズ紙の記事では、この機械が最終的に「歩き、話し、見、書き、自己複製し、自身の存在を意識する」能力を持つだろうという主張が説明され、これはAI誇大広告の初期の例であり、後に技術の限界が明らかになった際の失望につながった。
ミンスキーとパパートによる批判
1969年、マービン・ミンスキーとシーモア・パパートは『パーセプトロン』を出版し、単層パーセプトロンが線形分離可能でない問題、最も有名なのはXOR論理関数を解けないことを示す厳密な数学的分析を提示した。この本は多層ネットワークが原理的にはこの限界を克服できることを認めていたが、公平かどうかは別として、ニューラルネットワーク研究に対する広範な反対論として広く解釈され、1970年代以降のAIの冬まで続く資金と関心の急激な減少に寄与したとしばしば評価されている。
遺産と多層パーセプトロン
ニューロンに着想を得たモデルへの関心は、1980年代にデビッド・ラメルハートらによるバックプロパゲーションの普及とともに復活した。このアルゴリズムは、入力と出力の間に1つ以上の隠れ層を持つネットワークである多層パーセプトロンの訓練を実用的にし、非線形の決定境界を表現でき、ミンスキーとパパートが特定したまさにその限界を克服した。多層パーセプトロンアーキテクチャは、現代の深層学習システムの基本的な構成要素であり続けており、ローゼンブラットの元の単層モデルは現在、主に勾配降下法に基づく学習と機械学習の広範な発展を理解するための歴史的かつ教育的な出発点として教えられている。