ジョン・ホップフィールド（1933年生まれ）は、アメリカの物理学者であり神経科学者である。1982年に、統計物理学と神経系における連想記憶との間に厳密な関連を確立した再帰型ニューラルネットワークの一種であるホップフィールドネットワークを導入し、人工ニューラルネットワークを用いた機械学習を可能にする基礎的発見により、ジェフリー・ヒントンとともに2024年ノーベル物理学賞を共同受賞した。
背景
物理学者として訓練を受け、コーネル大学で博士号を取得したホップフィールドは、初期のキャリアの多くを固体物理学の研究に費やした後、生物学および計算上の問題に移行し、プリンストン大学、ベル研究所、カリフォルニア工科大学、そして再びプリンストン大学で職を歴任した。凝縮物質物理学から神経科学、計算科学へと至る学際的な道のりが、彼がニューラルネットワーク研究にもたらした独自のアプローチを形作った。
ホップフィールドネットワーク
1982年の論文で、ホップフィールドは、現在ホップフィールドネットワークと呼ばれる再帰型ニューラルネットワークの一種を記述した。このネットワークでは、ニューロンが互いに完全に結合され、他のすべてのニューロンからの重み付き入力に基づいて状態を更新し、時間の経過とともに安定したパターン、すなわち「アトラクタ」へと収束する。ホップフィールドは、このダイナミクスが統計物理学のスピングラスの数学を用いて理解できることを示し、ネットワークの安定状態はエネルギー関数の局所的最小値に対応する。これにより、ネットワークは連想記憶として機能し、部分的なまたはノイズを含む手がかりから完全な記憶パターンを想起できるようになった。これは、パーセプトロンの単純なフィードフォワードパターン認識とは異なる能力である。ホップフィールドが導入したエネルギーに基づく枠組みは、デビッド・ラメルハートやジェフリー・ヒントンのボルツマンマシンを含む後続のモデル世代に影響を与え、ニューラルネットワークの数学的研究、さらには深層学習への基礎的貢献と見なされている。
2024年ノーベル物理学賞
2024年10月、ホップフィールドとジェフリー・ヒントンは、「人工ニューラルネットワークを用いた機械学習を可能にする基礎的発見と発明」によりノーベル物理学賞を共同受賞した。これは、2024年のAI研究に対するノーベル賞受賞の波の一部であり、デミス・ハサビスらがアルファフォールドで化学賞を受賞したことも含まれる。物理学賞委員会は、ホップフィールドが統計物理学のツールを用いて連想記憶をモデル化したこと、およびヒントンがそれらのアイデアをボルツマンマシンとその後のバックプロパゲーションで訓練されたネットワークへと拡張したことを挙げた。この受賞は、物理学コミュニティ内で、ニューラルネットワーク研究が伝統的な意味での物理学を構成するかどうかについて議論を引き起こしたが、委員会は応用分野ではなく、ホップフィールドが用いた物理的手法に焦点を当てて栄誉を位置づけた。
遺産
ホップフィールドネットワークは、現代の深層学習の創始的アーキテクチャの一つと見なされており、彼らが導入したエネルギーに基づく視点は、現在も活発な研究分野であり、今日の大規模言語モデルの基盤となるトランスフォーマーアーキテクチャで使用されるアテンションメカニズムに数学的に関連付けられた「現代ホップフィールドネットワーク」と呼ばれる現代的な変種も含まれる。物理学と計算科学を橋渡ししたホップフィールドのキャリアは、現代の人工知能研究の多くが持つ学際的な起源を例証している。