シャプリー値は、協力ゲーム理論における解概念であり、協力したプレイヤー群の間で総利益または総費用を公平に分配する方法を提供する。1951年にロイド・シャプリーによって導入され、彼の名前にちなんで名付けられたこの値は、集団的な成果が生み出されたときに、各参加者がどれだけの功績または責任を負うべきかという問いに答える。この方法は、考えられるすべての提携にわたる各プレイヤーの限界貢献度の平均を計算し、効率性、対称性、加法性、ダミープレイヤー性という4つの基本公理を満たす分配を保証する。経済学における起源を超えて、シャプリー値は解釈可能なMachine learningの基盤となっており、複雑なモデルの予測を個々の入力特徴量に帰属させるために使用されている。
中核となる考え方は、プレイヤーが他のプレイヤーの各部分集合に加わるときに全体の成果がどのように変化するかを評価し、これらの変化をすべての部分集合とすべての可能な加入順序にわたって平均することである。このアプローチはプレイヤー間の相互作用を考慮し、貢献度がすでに提携に加わっている他のメンバーに依存する可能性があることを認識する。4つの公理を同時に満たす唯一の分配ルールであるため、協力による利得を分割する公平な方法としてしばしば説明される。
定義
提携ゲームでは、プレイヤーの集合 \(N\) が提携 \(S \subseteq N\) を形成でき、値関数 \(v(S)\) は \(S\) のメンバーが協力することによって得られる総利得を割り当てる。プレイヤー \(i\) のシャプリー値は次の式で与えられる：
\[\varphi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S))\]
ここで \(n\) はプレイヤーの総数である。項 \(v(S \cup \{i\}) - v(S)\) は、提携 \(S\) に対するプレイヤー \(i\) の限界貢献度である。組み合わせ重み \(\frac{|S|! (n - |S| - 1)!}{n!}\) は、\(S\) のプレイヤーが \(i\) の前に来て、残りのプレイヤーが後に続く順列の数を考慮する。同等の定式化では、プレイヤーのすべての \(n!\) 通りの可能な順序にわたって限界貢献度を平均する。ここで \(P_i^R\) は順序 \(R\) において \(i\) の前に来るプレイヤーの集合を表す：
\[\varphi_i(v) = \frac{1}{n!} \sum_R \left[ v(P_i^R \cup \{i\}) - v(P_i^R) \right]\]
この解釈は、提携が一度に1人のプレイヤーによって形成され、各プレイヤーが限界貢献度を報酬として受け取り、その後すべての可能な形成順序にわたって平均することを想定している。
公理的特徴
シャプリー値は、公平な分配を定義するとして広く受け入れられている4つの公理によって一意に特徴付けられる：
- 効率性: 全プレイヤーのシャプリー値の合計は大提携の総価値に等しい、\(\sum_{i \in N} \varphi_i(v) = v(N)\)。これにより、価値の損失や創出がないことが保証される。
- 対称性: 2人のプレイヤー \(i\) と \(j\) がすべての提携に対して同一の貢献をする場合（すなわち、どちらも含まないすべての \(S\) に対して \(v(S \cup \{i\}) = v(S \cup \{j\})\)）、彼らは等しいシェアを受け取る。
- 加法性: 2つのゲーム \(v\) と \(w\) に対して、結合ゲーム \(v+w\) のシャプリー値は個々のシャプリー値の合計である、\(\varphi_i(v+w) = \varphi_i(v) + \varphi_i(w)\)。この性質は複雑な問題の分解を支援する。
- ダミープレイヤー: プレイヤー \(i\) がどの提携にも価値を加えない場合（すなわち、すべての \(S\) に対して \(v(S \cup \{i\}) = v(S)\)）、そのシャプリー値はゼロである。
これらの公理はシャプリーの1951年の論文で形式化され、1953年の出版物でさらに洗練された。これらは、値が恣意的ではなく、合理的な公平性基準に従うことを保証する。
経済学とビジネスへの応用
協力ゲーム理論において、シャプリー値はさまざまな経済的設定での費用と便益の配分に使用されてきた。例えば、ビジネスパートナーシップでは、パートナーは異なるプロジェクトの組み合わせに対する限界貢献度に基づいて利益を分割するためにこれを使用できる。共有インフラのコストを複数のユーザー間で共有するなど、ジョイントベンチャーでのコスト配分に適用されている。サプライチェーン管理では、企業が最終製品を生産するために協力する際に、構成部品の公正な価格を決定するのに役立つ。この方法は投票力分析にも使用され、加重投票システムにおける各有権者の影響力を測定するが、その文脈では密接に関連するバンザフ・パワー指数が好まれることもある。
機械学習におけるシャプリー値
Machine learningでは、シャプリー値はモデルの個々の予測を説明するために適応されており、この分野は特徴量帰属として知られている。プレイヤーは入力特徴量であり、値関数 \(v(S)\) は部分集合 \(S\) の特徴量のみが既知である場合のモデルの予測であり、通常は他の特徴量を周辺化することによって得られる。特徴量のシャプリー値は、他のすべての特徴量との相互作用を考慮して、予測に対するその平均的な貢献度を測定する。このアプローチはモデルに依存しないため、Deep learningネットワーク、Neural networkアンサンブル、Large language modelシステムを含むあらゆる予測モデルに適用できる。
主要な実用的実装は、2017年にスコット・ランドバーグとスーイン・リーによって導入されたSHAP（SHapley Additive exPlanations）である。SHAPは、複雑なモデルに対するシャプリー値を近似する効率的なアルゴリズムを提供する。正確な計算は特徴量の数に対して指数関数的であるためである。この方法はモデル解釈可能性の標準的なツールとなり、データサイエンティストや規制当局がモデルが特定の決定を下した理由を理解するのに役立っている。
計算上の課題と近似
正確なシャプリー値は \(2^n\) 個の部分集合にわたる合計を必要とし、多くの特徴量を持つモデルでは計算が不可能である。30個の特徴量を持つモデルでは、10億を超える可能な提携が存在する。いくつかの近似手法が開発されている：
- モンテカルロサンプリング: 順列または部分集合をランダムにサンプリングし、限界貢献度を平均する。これは制御可能な分散を持つ不偏推定を提供する。
- SHAPとTreeSHAP: ランダムフォレストや勾配ブースティングなどのツリーベースのモデルに対して、TreeSHAPはツリー構造を利用して多項式時間で正確なシャプリー値を計算する。
- KernelSHAP: 加重線形回帰を使用してシャプリー値を近似するモデル非依存の方法であり、ブラックボックスモデルによく使用される。
- 勾配ベースの方法: 微分可能なモデルに対して、勾配を使用して近似を計算できるが、すべての公理を正確に満たさない場合がある。
これらの近似により、シャプリー値は信用スコアリング、医療診断、自然言語処理などの実世界のアプリケーションで実用的になった。
他の帰属方法との関係
シャプリー値は、他の特徴量帰属手法としばしば比較される。順列重要度や勾配ベースのサリエンシーマップなどの単純な方法とは異なり、シャプリー値は特徴量の相互作用を考慮し、効率性の性質を満たすため、帰属がモデルの出力に合計されることを保証する。しかし、周辺化する際に特徴量が独立であると仮定するため、特徴量が高度に相関している場合には非現実的なサンプルが生成される可能性がある。LIME（Local Interpretable Model-agnostic Explanations）などの代替手法は高速であるが、同じ公理的特徴を保証しない。協力ゲーム理論では、シャプリー値はヌクレオルスやコアなどのいくつかの解概念の1つであるが、4つの公理をすべて同時に満たす唯一のものである。
拡張と変種
シャプリー値のいくつかの拡張が異なる文脈のために提案されている。加重シャプリー値は、プレイヤーが異なる重みを持つことを可能にし、不平等な交渉力を反映する。シャプリー・シュービック・パワー指数は、投票ゲームに値を適用し、プレイヤーがピボタルである確率を測定する。機械学習では、シャプリー相互作用指数などの変種が、総帰属を主効果と特徴量間の交互作用効果に分解する。時系列データに対しては、動的シャプリー値が時間的依存性を考慮する。これらの拡張は、公平な限界貢献度平均化という中核的な考え方を維持しながら、特定の問題構造に適応する。
限界と批判
理論的な魅力にもかかわらず、シャプリー値には限界がある。機械学習アプリケーションにおける特徴量独立性の仮定は、特徴量が相関している場合に誤解を招く帰属を生み出す可能性がある。近似を用いても、指数関数的な計算コストは非常に高次元のデータには法外に高くなる可能性がある。さらに、予測モデルにおける値関数は常に明確に定義されているわけではなく、特徴量を周辺化するには特徴量空間上の分布が必要であり、それが既知でない場合がある。批評家は、公理的特徴はエレガントであるが、実際のシナリオにおける人間の公平性の概念と常に一致するとは限らないと主張する。それでもなお、シャプリー値はゲーム理論と解釈可能なAIの両方における基礎的な概念であり続け、これらの課題に対処するための活発な研究が行われている。
歴史的背景
ロイド・シャプリーは1951年にランド研究所でこの値を導入し、1953年に正式に発表した。彼の研究は、協力ゲーム理論における初期のアイデア、特にジョン・フォン・ノイマンとオスカー・モルゲンシュテルンの研究に基づいていた。シャプリーは後に、ゲーム理論への貢献により、アルビン・ロスと共同で2012年にノーベル経済学記念賞を受賞した。シャプリー値の機械学習への採用は2010年代に始まり、AIシステムがより複雑になるにつれてモデル解釈可能性の必要性によって推進された。今日、それはデータサイエンティストのツールキットの標準的なツールであり、SHAPやscikit-learnなどの主要なライブラリに実装されている。