GeneRecは、1989年にジェフリー・ヒントンによって導入されたニューラルネットワークのための学習アルゴリズムである。これは、バックプロパゲーションに代わる生物学的に妥当な選択肢として設計され、大域的な誤差信号や正確な微分計算を必要とせずに、脳がどのようにシナプス重みを調整するかを説明することを目的としていた。その名称は「gene」(発生を意味する)と「rec」(リカレントの略)に由来し、リカレントネットワーク理論にそのルーツを持ち、局所的な活動パターンから学習則を生成するという目標を反映している。
標準的なバックプロパゲーションがネットワークを通じて誤差信号を後方に伝播するのとは異なり、GeneRecは対比的ヘブ則学習則を使用する。これは2つのフェーズで動作する:ネットワークが目標出力にクランプされる「プラス」フェーズと、ネットワークが自由に動作する「マイナス」フェーズである。重みの更新は、これら2つのフェーズにおけるシナプス前後の活動の相関の差として計算される。この局所的な規則は、各シナプスで利用可能な情報のみを必要とするため、生物学的な制約とより適合する。
理論的基礎
GeneRecは、機械学習と計算神経科学における初期の研究、特に対比学習の概念に基づいている。このアルゴリズムはボルツマンマシンの学習則と密接に関連しているが、連続的な活性化を持つ決定論的ネットワークに適用される。ヒントンの重要な洞察は、「プラス」と「マイナス」のフェーズ統計の差が、リカレントアーキテクチャにおいても誤差関数の勾配を近似できるということであった。
このアルゴリズムは対称的な結合を持つネットワークを仮定しており、これは数学を簡素化するが、すべての変種で厳密に必要というわけではない。実際には、GeneRecはフィードフォワードネットワークで実装でき、プラスフェーズでは出力層をクランプされた目標として扱う。マイナスフェーズは外部クランプなしのフォワードパスに対応し、ネットワークが自然な状態に落ち着くことを可能にする。
バックプロパゲーションとの関係
GeneRecはしばしばバックプロパゲーションの「局所的な」近似として説明される。バックプロパゲーションが連鎖則を用いて正確な勾配を計算するのに対し、GeneRecは活動の時間的差に依存する。特定の条件下、例えばネットワークが平衡状態近くで動作し学習率が小さい場合、GeneRecの更新はバックプロパゲーションの勾配と同じ方向に収束する。この等価性は後の研究、特に2003年のXieとSeungによって正式に分析され、GeneRecがリカレントネットワークのためのより一般的なAlmeida-Pinedaアルゴリズムの特別なケースと見なせることを示した。
しかし、GeneRecは実装において異なる。これは別々のフォワードパスとバックワードパスを明確な誤差信号とともに必要としない。代わりに、両方のフェーズで同じネットワークダイナミクスを使用するため、生物学的システムを模倣するハードウェア実装により適している。これにより、GeneRecはニューロモルフィックチップ上のエネルギー効率の良い深層学習の候補として再び関心を集めている。
生物学的妥当性
GeneRecの主要な動機は、神経科学における「クレジット割り当て問題」に対処することであった。バックプロパゲーションは正確な誤差伝播を必要とし、これは既知の神経回路と調和させるのが難しい。GeneRecはより妥当なメカニズムを提供する:それは、フェーズ(プラスまたはマイナス)を示す大域的な信号によって変調されるヘブ的可塑性に依存する。これは、スパイクタイミング依存可塑性と学習における神経調節物質の役割に関する実験的発見と一致する。
研究者らは、GeneRecの2フェーズダイナミクスが、いくつかの教師なし学習モデルで使用される「覚醒-睡眠」アルゴリズムに似ていることを指摘している。覚醒フェーズでは、ネットワークは感覚入力を処理し、睡眠フェーズでは記憶を統合する。この類推は、皮質領域がリカレント相互作用を通じて対比学習をどのように実装するかについてのさらなる研究を促した。
応用と影響
GeneRecは主流の機械学習で広く採用されることはなかったが、その後の生物学的に着想を得たアルゴリズムの研究に影響を与えた。これは現代の対比学習法の前身であり、エネルギーベースモデルや予測符号化に関する研究で引用されている。2010年代から2020年代にかけて、研究者が大規模モデルを特殊なハードウェアで訓練するためのバックプロパゲーションの代替を求めるにつれて、関心が再燃した。
GeneRecは、皮質処理を模倣することを目的とした人工知能システムの文脈で探求されてきた。例えば、視覚野の発達のシミュレーションや運動学習のモデルで使用されている。その局所的な更新規則は、GraphcoreのIPUや他の並列アーキテクチャなどの分散実装に魅力的であるが、主要な商業展開は行われていない。
制限と拡張
GeneRecの主な制限は、対称的な重みとネットワークダイナミクスの慎重な制御を必要とすることである。実際には、プラスとマイナスのフェーズは、各フェーズでネットワークが平衡に達する必要があるため、計算コストが高くなる可能性がある。これにより、大規模な問題では標準的なバックプロパゲーションよりも遅くなる。さらに、このアルゴリズムはノイズやパラメータ選択に敏感であり、競争力のあるベンチマークでの採用を妨げてきた。
GeneRecの拡張には、対称性の仮定を緩和する変種(「ランダムフィードバックアライメント」アプローチなど)や、局所的なヘブ更新と時折の大域的な修正を組み合わせたハイブリッド手法が含まれる。最近の理論的研究は、GeneRecを2017年にScellierとBengioによって提案された同様の2フェーズ対比規則を使用する平衡伝播と関連付けている。これらの関連は、GeneRecが生物学的および人工的システムの両方における学習を理解するための関連する枠組みであり続けることを示唆している。
遺産
GeneRecは、生物学的に妥当な学習アルゴリズムの探求における画期的な成果として位置づけられている。局所計算と時間的対比へのその強調は、神経計算と認知科学の何世代もの研究者に影響を与えてきた。バックプロパゲーションが実際には支配的であり続ける一方で、GeneRecの原理は、より効率的で脳に似たAIシステムを構築する取り組みに情報を提供し続けている。2020年代現在、これは主に学術的な文脈で研究されているが、そのアイデアはニューロモルフィックハードウェアの設計と学習ダイナミクスの理論的分析に残り続けている。