期待伝播（EP）は、ベイズ機械学習における手法で、正確に扱うことが計算的に不可能な確率分布を近似するために用いられる。この手法は、2001年に第17回不確実性人工知能会議で発表されたThomas Minkaの論文で導入された。この方法は、対象となる複雑な分布の因数分解構造を利用して扱いやすい近似を見つけることを目的としており、機械学習や関連分野の様々な推論問題で有用である。
EPの核となる考えは、扱いにくい分布\(p(\mathbf{x})\)を、より簡単で扱いやすい分布\(q(\mathbf{x})\)で近似することである。これは、ある確率分布が第二の分布からどのように乖離するかを測るKullback-Leiblerダイバージェンス\(\mathrm{KL}(p||q)\)を最小化することで達成される。このダイバージェンスの方向の選択は、\(\mathrm{KL}(q||p)\)を最小化する変分ベイズ法との主な違いである。実際的な結果として、EPは対象分布の全体の形状、特にそのモーメントを一致させることに重点を置く傾向があり、対象が小さい領域を避けるのではなく、より正確にその統計を捉える。
近似分布\(q(\mathbf{x})\)がガウス分布\(\mathcal{N}(\mathbf{x}|\mu, \Sigma)\)として選択された場合、\(\mathrm{KL}(p||q)\)を最小化すると閉形式解が得られる。最適な\(\mu\)と\(\Sigma\)は、対象分布\(p(\mathbf{x})\)の平均と共分散になる。モーメントマッチングとして知られるこの操作は、EPアルゴリズムの中心機能であり、実際には、EPは近似の個々の因陣を反復的に更新し、収束までモーメントを洗練させ、複雑な因子分解されたモデルを扱えるようにする。
アルゴリズムの枠組み
EPアルゴリズムは、対象分布の各因子に近似を保持することによる。これらの因子近似は初期には、単純な形式、例えば一様またはガウスなどに設定される。アルゴリズムは、各因子を近似から除去して、キャビティ分布を計算し、その結果のチルト分布をモーノマッチングで扱いやすい家系に投影する手順を反復的に行う。このプロセスが近似が安定するまで繰り返され、最終的な\(q(\mathbf{x})\)が全体を近似するものとなる。
EPの際立った強みは、インジケーター関数のような非ガウス因子を扱えることで、これらは制約や離散結果を含むモデルで頻繁に現れます。モーノマッチングのステップでは、近似がこれらの因子の本質的な統計量を捉えられることを保証し、完全な推論が不可能でも機能する。この柔軟性から、EPは確率的グラフィカルモデルや他の構造化予測タスクの近似推論で人気のある選択肢になっている。
応用
EPの顕著な応用は、Microsoft Research がオンラインゲーム用に開発したランキングシステムである TrueSkill のためのライン通過の整合度合を導出することである。TrueSkill はプレイヤーの技能をガウス分布としてモデル化し、試合結果に基づいてこれらの推定を更新します。勝利/敗北イベントから生じる指標関数は直接扱うにはムニコフであるが、EP ではこれらを効率的に近似する方法を提供し、リアルタイムの技能推定やマッチメイキングを可能にしている。
TrueSkill 以外にも、EP はニューラルネットワークの学習（重みのベイズ推論で使用）や、大規模言語モデルの不確実性評価の文脈で適用されています。また、キャリブレーションされた不確実性評価を提供する能力は、人工知能や深層学習などの分野で重要であり、確率論的解釈が重視される場面で関連しています。
他の手法との比較
EP は、Kullbackup肯伯ダイバージェンスの最小化方向性の点で、変分ベイズ法と根本的に異います。変分法は\(\mathrm{KL}(q||p)\)を最小化し、より保守的な近似をもたらし、しばしば対象の分散を過小評価します。一方、EP の\(\mathrm{KL}(p||q)\)使用は、対象の分散をより良く捉えることができますが、場合によっては安定性を欠くこともあります。
もう一つの関連手法として、Markov chain Monte Carlo (MCMC) があります。これは漸近的に正確な標本を提供する一方で、計算コストがかかる場合があります。EP は決定的な代替であり、近似誤差を導入する代わりに、より高速であります。このトレードオフは、標本抽出が実務的でない大規模問題で特に EP を魅力的にします。
限界と拡張
EP はすべてのモデルに対して収束が保証されておらず、そのパフォーマンスは因子近似の初期化に依存することがあります。一部の設定では、モーノマッチングの更新が振り動いたり発散したりし、ダンピングや他の安定化手法が必要となることがあります。研究者は、ダンピング付き EP や分数 EP などの変種を開発し、これらの課題に対処しています。
これらの課題にもかかわらず、EP はベイズ推論ツールボックスで広く使われる強力なツールです。Minkaの原著で基づく理論の基礎は、コンピュータビジョンや強化学習など、無数の拡張と応用を導き出しています。その精度と計算効率の調和は、スタンフォード AI ラボや他の主要研究機関での活発な研究の対象となっています。