非負値行列因子分解（NMFまたはNNMF）は、多変量解析および線形代数におけるアルゴリズム群であり、非負値行列近似とも呼ばれる。。その目的は、与えられた行列Vを、通常WおよびHと表記される二つの行列に分解することであり、三つ全ての行列が非負値要素のみを含むようにすることである。この制約により、得られる因子は検査および解釈が容易になり、またデータ自体が本質的に非負値である応用、例えばオーディオスペクトログラムや筋活動測定などと整合する。完全な分解は一般に不可能であるため、NMF手法は数値的に近似解を計算する。
NMFは、天文学、コンピュータビジョン、文書クラスタリング、欠損データ補完、ケモメトリクス、オーディオ信号処理、レコメンダシステム、およびバイオインフォマティクスなど、多様な分野で応用されている。その魅力は、部品ベースの表現を生成できる点にあり、元のデータが学習された少数の成分の加法的組み合わせとして表現される。
歴史
非負値分解の概念はケモメトリクスに起源を持ち、そこでは長らく「自己モデリング曲線分解」として知られていた。その枠組みでは、右側の因子行列のベクトルは離散ベクトルではなく連続曲線として扱われる。1990年代には、フィンランドの研究グループが「正値行列因子分解」という名称で関連手法を開発した。このアプローチは、Daniel D. LeeおよびH. Sebastian Seungがその特性を調査し、1999年および2001年に二種類の分解に対する単純かつ効果的なアルゴリズムを発表した後、非負値行列因子分解として広く認知されるようになった。彼らの研究は、得られる因子の解釈可能性を強調し、この手法への広範な関心を喚起した。
背景
サイズm × nの行列Vが与えられたとき、NMFはそれを二つの行列の積として近似することを目指す: V ≈ W H、ここでWはm × p、Hはp × nである。ランクpは通常、mおよびnの両方よりもはるかに小さく選ばれるため、分解は元のデータを低次元表現に圧縮する。行列乗算は列単位で理解できる: Vの各列ベクトルはWの列ベクトルの線形結合であり、その係数はHの対応する列によって与えられる。
例えば、テキストマイニング応用では、Vは単語を表す10,000行と文書を表す500列を持つかもしれない。アルゴリズムが10個の特徴を求める場合、Wは10,000 × 10、Hは10 × 500となる。積W Hの各列は、W内の10個の特徴ベクトルの線形結合であり、Hの対応する列の要素によって重み付けされる。W内の各特徴ベクトルは文書原型として解釈でき、セル値はその特徴における各単語の重要性を示す。同様に、Hの各列は特定の文書に対するこれらの特徴の重みを与え、元の文書を原型の重み付き和として再構築することを可能にする。
クラスタリング特性
NMFは固有のクラスタリング特性を持つ。VをW Hで近似する際、アルゴリズムは入力データの列を自動的にクラスタリングする。近似は、WおよびHの非負値制約の下で、VとW Hの差の誤差関数、しばしばフロベニウスノルム、を最小化することによって達成される。Hに追加の直交制約が課される場合（すなわち、H Hᵀ = I）、最小化は数学的にK平均法クラスタリングと等価になる。この場合、Hの要素はクラスタ所属を直接示す: 与えられた列jについて、最大の要素H_kjはデータ点v_jが属するクラスタを特定する。この特性により、NMFは教師なし学習および探索的データ解析の有用なツールとなる。
アルゴリズムと計算
NMFを計算するためにいくつかのアルゴリズムが開発されている。最も広く使用されるのはLeeおよびSeungによって導入された乗法更新則であり、非負値を維持しながらWおよびHを反復的に更新する。他のアプローチには、交互最小二乗法、射影勾配法、およびスパース性や平滑性の制約を組み込んだ変種が含まれる。アルゴリズムの選択は、データのサイズ、所望の精度、および特定の応用に依存することが多い。問題は非凸であるため、解は初期化に依存する可能性があり、安定した結果を得るために異なる開始点で複数回実行することがある。
応用
NMFは広範な領域で応用されている。オーディオ信号処理では、スペクトログラムをスペクトル成分に分解するために使用され、音源分離や音楽転写を可能にする。文書クラスタリングおよびトピックモデリングでは、NMFは潜在トピックを単語の集合として識別し、各文書をトピックの混合として表現する。バイオインフォマティクスでは、共発現遺伝子のパターンを識別することにより遺伝子発現データの解析を支援する。レコメンダシステムでは、NMFはユーザー項目評価行列を分解し、ユーザー選好を予測する潜在因子を発見できる。さらに、NMFはコンピュータビジョンでの顔特徴抽出や、ケモメトリクスでの重複スペクトル信号の分解にも使用されている。