対照的ヘッブ学習（CHL）は、ニューラルネットワークのための学習則であり、自由位相とクランプ位相という2つの異なる位相におけるネットワーク活動を比較することでシナプス重みを更新する。明示的な誤差信号を伴う別個の順伝播および逆伝播を必要とする標準的な誤差逆伝播法とは異なり、CHLは2つの位相におけるニューロン活性化の相関の差を用いる局所的でヘッブ的な更新に依存する。これにより、CHLは脳における生物学的に妥当な学習の候補となり、ボルツマンマシンやその変種などのエネルギーに基づくモデルの基礎的アルゴリズムとなる。
この学習則は1980年代から1990年代にかけて開発され、以前に逆伝播法を定式化したポール・ウェルボスや、ボルツマンマシンの文脈で対照的学習を探求したジェフリー・ヒントンなどの研究者が重要な貢献をした。核となる考え方は、ネットワークがまず入力（自由位相）を反映する状態に落ち着き、次に目標出力（クランプ位相）に固定され、最後にこれら2つの状態間の不一致を減らすように重みを調整するというものである。このプロセスはエネルギー関数を最小化し、ネットワークをクランプ状態が低エネルギーのアトラクタとなる構成へと導く。
メカニズムと数学的定式化
典型的なCHL実装では、ネットワークは可視ユニット（入力および出力）と隠れユニットを持つリカレントまたはフィードフォワードアーキテクチャである。自由位相では、ネットワークに入力が提示され、活性化が反復的な落ち着きを経て安定状態に達するまでネットワークを通じて伝播する。クランプ位相では、出力ユニットが望ましい目標値に固定され、ネットワークは再び新しい平衡状態に落ち着く。各結合の重み更新は、学習率でスケーリングされた、クランプ位相における活性化の積と自由位相における積の差によって与えられる。
数学的には、ユニット\(i\)をユニット\(j\)に接続する重み\(w_{ij}\)について、更新は\(\Delta w_{ij} = \eta (x_i^+ x_j^+ - x_i^- x_j^-)\)であり、ここで\(x^+\)はクランプ位相における活性化、\(x^-\)は自由位相における活性化、\(\eta\)は学習率を示す。この規則は対照発散の一形態であり、後にヒントンが2002年に制限付きボルツマンマシンの訓練のために形式化した概念である。この更新は、シナプス前およびシナプス後のニューロンで利用可能な情報のみを必要とするという意味で局所的であり、ヘッブの公準「一緒に発火するニューロンは一緒に配線される」に整合するが、重みの無制限な成長を防ぐ決定的な減算を伴う。
逆伝播法との関係
CHLは、現代の深層学習を支配する逆伝播アルゴリズムとしばしば対比される。逆伝播法は連鎖律を用いて損失関数の正確な勾配を計算し、ネットワークを通じて逆方向に伝播される大域的な誤差信号を必要とする。これは計算効率が高いが、正確で同期されたシグナリングと重み輸送を必要とするため、生物学的には非現実的である。対照的に、CHLは局所情報のみを使用し、連続時間の力学系で実装できるため、皮質学習のモデルとしてより妥当である。
実証研究は、CHLが特定のアーキテクチャ、特に対称重みを持つフィードフォワードネットワークにおいて逆伝播法を近似できることを示している。小さな学習率と十分な落ち着き時間の極限では、CHL更新は二乗誤差損失の勾配を近似する。しかし、CHLは一般に収束が遅く、非常に深いネットワークへのスケーラビリティが低いため、大規模言語モデルやトランスフォーマーなどの実用的な応用で逆伝播法を置き換えるには至っていない。
応用と変種
CHLは、連想記憶、パターン補完、教師付き分類など、さまざまな問題に適用されてきた。これは、1980年代に影響力があったが計算コストのために支持を失った確率的リカレントネットワークであるボルツマンマシンの基礎となる学習則である。平均場対照的ヘッブ学習則などの変種が決定論的ネットワークを扱うために開発され、この考え方はスパイキングニューラルネットワークにも拡張され、積分発火ニューロンのネットワークを訓練するために使用されている。
2010年代から2020年代にかけて、逆伝播法の生物学的に妥当な代替を求める探求の一環として、CHLへの関心が復活した。MIT CSAILやスタンフォードAIラボなどの機関の研究者は、大域的な誤差信号なしで深層ネットワークを訓練するためにCHLと局所学習則を組み合わせたハイブリッドアプローチを探求してきた。これらの取り組みは、皮質学習の理解とエネルギー効率の高いニューロモルフィックハードウェアの構築という目標によって動機づけられている。
限界と課題
CHLの主要な限界はその計算コストである。落ち着きプロセスは平衡に達するために複数の反復を必要とし、2位相手順は単一の順伝播と比較して推論時間を2倍にする。大規模ネットワークでは、これは法外なものになる。さらに、CHLは落ち着きダイナミクスと学習率の選択に敏感であり、不適切な選択は振動や収束の遅さにつながる可能性がある。エネルギー関数が明確に定義されるために必要な対称重みの要件は、ほとんどの生物学的回路では成立しない別の制約である。
もう1つの課題は、CHLが追加の近似なしでは非微分可能な活性化や確率的ユニットを自然に扱えないことである。対照発散は制限付きボルツマンマシンに対する実用的な近似を提供するが、真の勾配への収束は保証されておらず、より深いアーキテクチャでは性能が低下する。これらの問題により、逆伝播法が標準であり続ける主流の機械学習におけるCHLの採用は制限されている。
遺産と現在の研究
その限界にもかかわらず、CHLはこの分野に永続的な影響を残している。これはエネルギーに基づくモデルの理論的基盤を提供し、対照的予測符号化やSimCLRなどの教師なし学習における対照的方法の発展に影響を与えた。自由状態とクランプ状態を比較するという概念は、2017年にScellierとBengioによって導入された平衡伝播などの現代の技術の基礎にもなっており、これはリカレントネットワークで勾配を近似するために同様の2位相アプローチを使用する。
CHLに関する現在の研究は、それをよりスケーラブルで堅牢にすることに焦点を当てている。例えば、最近の研究では、ハードウェア制約のために局所学習則が不可欠なエッジコンピューティング向けのスパイキングニューラルネットワークでのCHLの使用が探求されている。他の取り組みでは、一般化を改善するためにドロップアウトやバッチ正規化とCHLを組み合わせることを調査している。近い将来に逆伝播法を置き換える可能性は低いが、CHLは神経科学と人工知能の交差点に興味を持つ人々にとって活発な研究領域であり続けている。