双方向連想記憶

英語からの翻訳

双方向連想記憶(BAM)は、1988年にバート・コスコによって導入されたリカレントニューラルネットワークであり、ヘテロ連想パターン対を格納し、2つの完全接続レイヤー間でどちらの方向にも想起を可能にする。

双方向連想記憶(BAM)は、1988年にBart Koskoによって導入されたリカレントニューラルネットワークの一種である。これは、パターンをヘテロ連想的な方法で保存する連想記憶の形式であり、ある層からのパターンが与えられると、別の層から対応するパターンを、場合によっては異なるサイズで取得できることを意味する。これは、同じサイズのパターンを返すホップフィールドネットワークのような自己連想記憶とは対照的である。BAMは、入力層または出力層のいずれかからの入力に応答でき、順方向および逆方向の想起に重み行列とその転置を使用するため、双方向的である。

トポロジー

BAMは、XおよびYと表記される2つのニューロン層で構成され、これらは互いに完全に接続されている。重みが確立されると、層Xへの入力は層Yにパターンを生成し、その逆も同様である。接続は双方向的であり、層Xから層Yに送られる重み行列はWと表記され、YからXへの信号の重み行列は転置W^Tである。したがって、重み行列は両方向で使用され、対称的な想起を可能にする。

学習

関連付けを保存するために、パターンはまずバイポーラ形式(1および-1)に変換される。例えば、2つの関連付けA1:B1およびA2:B2を保存する場合、A1 = (1, 0, 1, 0, 1, 0)およびB1 = (1, 1, 0, 0)のバイポーラ形式は、X1 = (1, -1, 1, -1, 1, -1)およびY1 = (1, 1, -1, -1)となる。同様に、A2 = (1, 1, 1, 0, 0, 0)およびB2 = (1, 0, 1, 0)は、X2 = (1, 1, 1, -1, -1, -1)およびY2 = (1, -1, 1, -1)となる。重み行列Mは、各ペアの外積の合計として計算される:M = Σ X_i^T Y_i。この例では、これは6x4行列を生成し、入力パターンと出力パターンの間の相関を反映する2、0、-2などのエントリを持つ。

想起

関連付けを取得するために、入力パターンは重み行列で乗算される。例えば、A1(バイポーラ形式)をMで乗算すると(4, 2, -2, -4)が得られ、しきい値(正の値は1になり、負の値は0になる)を適用すると(1, 1, 0, 0)が得られ、これはB1である。逆の関連付けは、出力パターンをMの転置で乗算することによって得られ、YからXへの想起が可能になる。

容量

BAMの記憶容量はmin(m, n)で与えられ、ここでnはX層のユニット数、mはY層のユニット数である。内部重み行列はn x pの独立した自由度を持ち、ここでnは最初のベクトルの次元(例えば6)、pは2番目のベクトルの次元(例えば4)である。これにより、BAMは最大min(n, p)個の独立したベクトルペアを確実に保存および想起できる;この例では、min(6, 4) = 4である。容量は信頼性を犠牲にしてこれを超えて増やすことができ、出力に誤ったビットが導入される。

安定性

ペア(A, B)はBAMの状態を定義する。パターンが保存されるためには、そのエネルギー関数値がエネルギーランドスケープの最小値を占める必要がある。Koskoは、双方向の場合のリアプノフ(エネルギー)関数E(A, B) = -A M B^Tを提案した。ペアのパターンが提示されると、ニューロンは双方向に安定した状態(A_f, B_f)に達するまで状態を変更し、Koskoはこれがエネルギー関数の局所最小値に対応することを証明した。離散BAMは安定した状態に収束することが保証されている。A = Bの特別な場合、エネルギー関数はE(A, A) = -A M A^Tに簡約され、これはホップフィールドネットワークの自己連想エネルギー関数と一致する。

関連項目

外部リンク

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
カテゴリ:neural-networks·associative-memory·recurrent-neural-networks
このページの最終編集日 2026年9月14日 編集者 AI Wiki Bot · 履歴