潜在変数モデルは、直接観測されないが、数学的モデルを通じて他の観測可能な変数から推測される変数を組み込んだ統計モデルの一種である。「潜在」という用語は、ラテン語の「lateo」（隠れて横たわることを意味する）に由来する。これらのモデルは、工学、医学、生態学、物理学、機械学習、自然言語処理、バイオインフォマティクス、ケモメトリクス、人口学、経済学、経営学、政治学、心理学、社会科学など、幅広い分野で広く使用されている。
潜在変数は、原理的には測定可能だが実際には観測が困難な物理的現実の側面を表すことができ、しばしば「隠れ変数」と呼ばれる。また、カテゴリ、行動状態、精神的状態などの抽象的概念に対応することもあり、時には「仮説的構成概念」と呼ばれる。潜在変数の重要な機能の一つは次元削減である。多くの観測可能な変数を集約して根底にある概念を表現することで、データ解釈を簡素化できる。これは、観測可能な「サブシンボリック」データをシンボリックモデルに結び付ける科学理論の役割を反映している。
歴史的背景
潜在プロセスの考え方は、アリストテレス論理に挑戦したフランシス・ベーコンの『ノヴム・オルガヌム』（1620年）に遡る。ベーコンは、感覚的観測から逃れる「潜在プロセス」を記述し、そのようなプロセスが単なる症状ではなく、連続的な根底メカニズムであることを強調した。この哲学的基盤は、後の統計的発展に影響を与えた。20世紀には、因子分析と構造方程式モデリングが潜在変数推論を形式化し、チャールズ・スピアマンなどの先駆者が一般知能因子「g」を導入した。
心理学への応用
心理学では、潜在変数はしばしば因子分析を通じて導出され、観測された測定値間の共有分散を表す。ビッグファイブ性格特性（外向性、協調性、誠実性、神経症傾向、開放性）は、この方法を用いて推測された。他の例としては、空間能力、知恵（パフォーマンスと潜在変数測定を通じて評価される）、およびスピアマンのg（一般知能因子）が挙げられる。これらの構成概念は直接測定可能ではないが、テスト項目間の相関から現れる。
経済学と医学への応用
経済学では、潜在変数には生活の質、ビジネス信頼感、士気、幸福度、保守主義が含まれる。例えば、生活の質は、富、雇用、環境、身体的・精神的健康、教育、レクリエーション、社会的帰属などの観測可能な指標から推測される。医学では、潜在変数モデルは、観測された時間スケール（例えば年齢）が疾患進行と同期しない縦断研究において重要である。観測されない時間スケールは、観測された時間の変換としてモデル化でき、疾患進行と成長モデリングに役立つ。
推論方法とモデル
潜在変数を用いた推論を可能にするさまざまなモデルクラスとアルゴリズムが存在する。モデルには、線形および非線形混合効果モデル、隠れマルコフモデル、因子分析、項目応答理論が含まれる。推論方法には、主成分分析、部分的最小二乗回帰、潜在意味解析、期待値最大化（EM）アルゴリズム、メトロポリス・ヘイスティングスアルゴリズムが含まれる。ベイズ的アプローチが顕著であり、トピックモデリングのための潜在ディリクレ配分、クラスタリングのための中華料理店過程、特徴割り当てのためのインド料理ビュッフェ過程などの技法がある。
機械学習とAIにおける役割
機械学習では、潜在変数モデルは多くの生成的および教師なし学習技法の基盤となっている。変分オートエンコーダ（VAE）と生成的敵対ネットワーク（GAN）は、潜在空間を使用して新しいデータを生成する。Deep learningでは、ニューラルネットワークによって学習された潜在表現が抽象的な特徴を捉える。Generative AIシステム、例えばTransformer (architecture)アーキテクチャ上に構築された大規模言語モデルは、言語をモデル化するために潜在表現に依存している。MIT CSAIL、Stanford AI Lab、BAIR (Berkeley AI Research)などの研究機関は、これらのモデルの進歩に貢献してきた。OpenAI、Anthropic、Google DeepMindなどの企業は、そのAIシステムに潜在変数法を適用しており、NVIDIA（リストにない）やAMDなどのハードウェアプロバイダーは、計算需要を支えている。
関連項目
参考文献
- ベーコン、フランシス。『ノヴム・オルガヌム』（1620年）。
- クメンタ、ヤン。『計量経済学の要素』（1986年）。