シャープレイ値は、協力ゲーム理論における解概念であり、協力したプレイヤー群の間で総利得または総費用を公平に配分する方法を提供する。1951年にロイド・シャープレイによって導入され、以来、経済学、政治学、そして最近では機械学習におけるモデル予測の解釈において基礎的なツールとなっている。この値は、他のプレイヤーのすべての可能な提携にわたる平均限界貢献度に基づいて、各プレイヤーに総利得の取り分を割り当てる。これは、効率性、対称性、加法性、ダミープレイヤー性という4つの主要な性質を満たす唯一の配分であり、公平な配分の広く受け入れられた標準となっている。
機械学習の文脈では、シャープレイ値は、モデルの出力に対する各特徴量の貢献度を帰属させることにより、個々の予測を説明するために使用される。このアプローチは、しばしばSHAP（SHapley Additive exPlanations）と呼ばれ、理論的に基礎づけられ、かつ実用的に適用可能な特徴量重要度の統一的な枠組みを提供する。正確なシャープレイ値を計算する計算複雑性は、特徴量の数に応じて指数関数的に増大するため、さまざまな近似手法の開発につながっている。
定義と公式
形式的には、プレイヤーの集合 \( N \) と、各部分集合（提携） \( S \subseteq N \) に実数を割り当てる値関数 \( v \) を持つ協力ゲームを考える。プレイヤー \( i \) のシャープレイ値は次のように定義される：
\[ \phi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S)) \]
ここで \( n = |N| \) である。この公式は、提携が形成され得るすべての順序にわたるプレイヤー \( i \) の平均限界貢献度として解釈できる。等価な定式化として、プレイヤーのすべての \( n! \) 通りの順列について合計するものがあり、ここで \( P_i^R \) は順序 \( R \) において \( i \) の前にいるプレイヤーの集合である：
\[ \phi_i(v) = \frac{1}{n!} \sum_R \left[ v(P_i^R \cup \{i\}) - v(P_i^R) \right] \]
値関数 \( v(S) \) は、提携 \( S \) が協力することによって達成できる総利得を表す。シャープレイ値は、総価値 \( v(N) \) をすべてのプレイヤーに配分し、各プレイヤーが全体の結果に対する平均的な貢献度を受け取ることを保証する。
性質
シャープレイ値は、公平な配分に不可欠と見なされる以下の4つの公理を満たす唯一の解概念である：
- 効率性: すべてのシャープレイ値の合計は大提携の総価値に等しい、すなわち \( \sum_{i \in N} \phi_i(v) = v(N) \)。これにより、利得全体が配分されることが保証される。
- 対称性: 2人のプレイヤー \( i \) と \( j \) がすべての提携に等しく貢献する場合（すなわち、すべての \( S \subseteq N \setminus \{i,j\} \) について \( v(S \cup \{i\}) = v(S \cup \{j\}) \)）、それらは同じシャープレイ値を受け取る。これにより、同一の貢献者間の公平性が保証される。
- 加法性: 任意の2つのゲーム \( v \) と \( w \) について、結合ゲーム \( v + w \) のシャープレイ値は個々のゲームのシャープレイ値の合計である、すなわち \( \phi_i(v + w) = \phi_i(v) + \phi_i(w) \)。この性質により、複雑なゲームの分解が可能になる。
- ダミープレイヤー性: プレイヤー \( i \) がいかなる提携にも価値を追加しない場合（すなわち、すべての \( S \subseteq N \setminus \{i\} \) について \( v(S \cup \{i\}) = v(S) \)）、 \( \phi_i(v) = 0 \) となる。これにより、貢献しないプレイヤーは何も受け取らないことが保証される。
これらの性質により、シャープレイ値は参加者間でクレジットまたはコストを配分するための独自かつ原理に基づいた方法となる。
機械学習における応用
機械学習では、シャープレイ値は、各特徴量をプレイヤーとして、モデルの出力を値関数として扱うことにより、モデル予測を解釈するために適用される。特定の予測について、特徴量のシャープレイ値は、モデルの出力と平均予測との差に対するその特徴量の貢献度を定量化する。このアプローチはSHAPとして知られ、2017年にスコット・ランドバーグとスーイン・リーによって広められた。SHAP値は、シャープレイ値の公理と整合する特徴量重要度の統一的な尺度を提供し、モデル解釈可能性のための信頼できるツールとなっている。
機械学習におけるシャープレイ値の使用は、特に金融、医療、自律システムなど、モデルの決定を理解することが重要である分野で大幅に成長している。例えば、信用スコアリングでは、SHAP値はどの要因が融資承認決定に最も影響を与えるかを明らかにし、規制順守と公平性監査に役立つ。医療診断では、モデルが特定の状態を予測する理由を臨床医が理解するのに役立ち、AI支援による決定への信頼を高める。
計算上の課題
正確なシャープレイ値を計算するには、すべての \( 2^n \) 通りの可能な提携について値関数を評価する必要があり、多くの特徴量を持つモデルでは計算が不可能である。 \( n \) 個の特徴量を持つモデルの場合、複雑性は \( O(2^n) \) となり、数十個を超える特徴量では正確な計算は非現実的である。これに対処するため、いくつかの近似手法が開発されている：
- モンテカルロサンプリング: 特徴量の順列をランダムにサンプリングし、限界貢献度を平均化することで、制御可能な分散を持つ不偏推定を提供する。
- TreeSHAP: 木ベースのモデル（例：ランダムフォレスト、勾配ブースティング）に特化して設計されたアルゴリズムで、決定木の構造を利用して正確なシャープレイ値を多項式時間で計算する。
- KernelSHAP: 重み付き線形回帰を使用してシャープレイ値を近似するモデル非依存の手法で、任意のブラックボックスモデルに適している。
- 勾配ベースの手法: ニューラルネットワークの場合、勾配または注意機構を使用した近似により高速な推定が可能であるが、すべてのシャープレイ公理を満たさない場合がある。
これらの近似により、解釈可能性がますます重要となる深層ニューラルネットワークや大規模言語モデルを含む大規模機械学習モデルへのシャープレイ値の適用が実現可能になった。
関連概念と拡張
シャープレイ値は、さまざまなニーズに対応するために、さまざまな方法で拡張および適応されてきた。協力ゲーム理論では、シャープレイ・シュービック権力指数とバンザフ権力指数は、投票ゲームに特化した応用である。機械学習では、SHAPは特徴量間の相互作用を扱うように拡張され、相乗効果を捉える2次帰属を提供している。さらに、この概念は大規模言語モデルの挙動を説明するために適用されており、入力テキストのどの部分が生成出力に最も影響を与えるかを特定するのに役立つ。
シャープレイ値は、LIME（Local Interpretable Model-agnostic Explanations）などの他の帰属手法とも関連しているが、その公理的な基盤により、より強力な理論的保証を提供する。LIMEが局所的な忠実性に焦点を当てるのに対し、SHAPは一貫性と局所的な正確性を保証し、多くの実用的なアプリケーションで好まれる選択肢となっている。
歴史的背景
ロイド・シャープレイは、1951年の論文「A Value for n-Person Games」でこの概念を導入し、協力ゲーム理論の基礎を築いた。彼の業績は、安定配分の理論と市場設計の実践への貢献により、2012年にアルビン・ロスと共にノーベル経済学賞を受賞した。シャープレイ値は以来、経済理論の基礎となり、コスト配分、利益分配、ネットワーク分析などの分野に影響を与えている。
2010年代には、機械学習の台頭とモデル解釈可能性の必要性により、シャープレイ値が脚光を浴びるようになった。研究者たちは、協力ゲームにおける公平性の公理がモデル予測を説明するための要件と一致することを認識し、SHAPの開発とその広範な採用につながった。今日、シャープレイ値はデータサイエンティストやAI研究者のツールキットにおける標準的なツールであり、ゲーム理論と現代の人工知能の間の橋渡しをしている。
関連項目
参考文献
- Shapley, L. S. (1951). "A Value for n-Person Games." In Contributions to the Theory of Games, volume II.
- Lundberg, S. M., & Lee, S.-I. (2017). "A Unified Approach to Interpreting Model Predictions." Advances in Neural Information Processing Systems.
- Strumbelj, E., & Kononenko, I. (2014). "Explaining Prediction Models and Individual Predictions with Feature Contributions." Knowledge and Information Systems.