自己組織化マップ（SOM）は、自己組織化特徴マップ（SOFM）またはコホネンマップとも呼ばれ、高次元データセットの低次元（通常は二次元）表現を生成しながら、データの位相構造を保存するための教師なし機械学習手法です。例えば、n個の観測で測定されたp個の変数を持つデータセットは、類似した値を持つ観測のクラスターとして表現でき、その後、近接したクラスターが遠いクラスターよりも類似した値を持つ二次元マップとして視覚化されます。これにより、高次元データの視覚化と分析が容易になります。
SOMは人工ニューラルネットワークの一種ですが、勾配降下法を用いたバックプロパゲーションなどの誤差修正学習ではなく、競合学習を用いて訓練されます。これは、1980年代にフィンランドの教授テウヴォ・コホネンによって導入され、1970年代の神経系の生物学的モデルと、1950年代のアラン・チューリングに遡る形態形成モデルに基づいています。SOMは、感覚処理に専念する脳領域に基づく人体の歪んだ神経学的マップである皮質ホムンクルスを連想させる内部表現を作り出します。
訓練とマッピング
SOMは訓練とマッピングの2つのモードで動作します。訓練は入力データセット（入力空間）を使用して低次元表現（マップ空間）を生成します。マッピングは生成されたマップを使用して追加の入力データを分類します。訓練の目標は、p次元の入力空間をn次元のマップ空間として表現することであり、ここでp > nです。マップ空間は、通常二次元の六角形または長方形のグリッドに配置されたノードまたはニューロンで構成されます。ノードの数と配置は、分析目標に基づいて事前に指定されます。
各ノードは、入力空間での位置を表す重みベクトルに関連付けられています。マップ空間のノードは固定されたままですが、訓練はユークリッド距離などの距離指標を減らすことで重みベクトルを入力データに向かって移動させ、マップ空間から誘導される位相を損なうことはありません。訓練後、マップは入力ベクトルに最も近い重みベクトルを持つノードを見つけることで追加の観測を分類します。
学習アルゴリズム
学習の目標は、ネットワークの異なる部分が特定の入力パターンに同様に応答するようにすることであり、これは部分的に感覚情報が大脳皮質の別々の部分で処理される方法に動機付けられています。ニューロンの重みは、小さなランダム値に初期化されるか、または2つの最大の主成分固有ベクトルによって張られる部分空間から均等にサンプリングされます。後者の代替案は、初期の重みが最終的なSOMの重みに既に近似しているため、学習を高速化します。
ネットワークには、期待される入力を表す多くの例ベクトルが供給され、通常は反復として数回投与されます。訓練は競合学習を使用します。訓練例が供給されると、そのユークリッド距離がすべての重みベクトルに対して計算され、最も類似した重みベクトルを持つニューロンが最適一致ユニット（BMU）となります。BMUとSOMグリッド内の近傍ニューロンは、入力ベクトルに向かって重みを調整し、変化の大きさは時間とBMUからのグリッド距離に応じて減少します。
ニューロンvの重みベクトルWv(s)の更新式は、Wv(s+1) = Wv(s) + θ(u,v,s) · α(s) · (D(t) - Wv(s))です。ここで、sはステップインデックス、tは訓練サンプルへのインデックス、uは入力ベクトルD(t)に対するBMUインデックス、α(s)は単調減少する学習係数、θ(u,v,s)はステップsでのニューロンuとvの間の距離を与える近傍関数です。訓練サンプルは体系的にスキャンされるか、ブートストラップサンプリングを介してランダムに抽出されるか、ジャックナイフなどの他の方法を使用できます。
近傍関数は、BMUとニューロンvの間のグリッド距離に依存します。最も単純な形式では、BMUに十分近いニューロンには1で、他のニューロンには0ですが、ガウス関数やメキシカンハット関数が一般的です。近傍は時間とともに縮小します。広い近傍はグローバルな自己組織化を可能にし、狭い近傍は重みが局所的な推定に収束することを可能にします。学習係数と近傍関数は、Tステップごとに着実にまたは段階的に減少します。
応用と重要性
SOMは、データ分析、パターン認識、バイオインフォマティクスなどの分野で、視覚化、クラスタリング、次元削減に使用されます。位相関係を保存することに優れており、構造の理解が鍵となる探索的データ分析に役立ちます。教師あり手法とは異なり、SOMはラベル付きデータを必要としないため、教師なし学習のシナリオで価値があります。
SOMは、音声認識や画像分析から金融データマイニングや医療診断まで、多様な分野に適用されています。複雑なデータの直感的なマップを作成する能力により、データ視覚化ツールの定番となっています。この手法は現代のAI研究でも関連性を維持しており、深層学習モデルなどのより複雑なアーキテクチャを比較するためのベースラインとしてよく使用されます。
他のニューラルネットワークとの関係
SOMは、大規模言語モデルで使用されるトランスフォーマーなど、バックプロパゲーションで訓練されるフィードフォワードネットワークとは根本的に異なります。SOMが競合学習と位相保存を使用する一方で、トランスフォーマーは誤差修正と注意機構に依存します。SOMはまた、残差ネットワークやU-Netとも異なり、これらは教師ありで勾配ベースの最適化を使用します。しかし、SOMは分散処理と適応重みのニューラルネットワークパラダイムを共有し、前処理や特徴抽出のために大規模システムに統合できます。
制限と拡張
SOMには、初期化とパラメータ選択に対する感度、および非常に高次元のデータへのスケーラビリティの制限などの欠点があります。成長SOMや階層SOMなどの変種は、マップサイズを動的に調整することでいくつかの問題に対処します。これらの課題にもかかわらず、SOMは教師なし学習の基礎的なツールであり続け、現代の手法とのハイブリッドモデルでの使用を探る継続的な研究があります。