Shapley值（Shapley value）是合作博弈论中的一个解概念，提供了一种在合作参与者群体中公平分配总收益或成本的方法。它由Lloyd Shapley于1951年提出，此后成为经济学、政治学以及近期机器学习中解释模型预测的基础工具。该值为每个参与者分配总收益中的一份，基于其在所有可能的其他参与者联盟中的平均边际贡献。它是唯一满足四个关键性质（效率性、对称性、可加性和虚拟参与者性质）的分配方式，因此成为广泛接受的公平分配标准。
在机器学习背景下，Shapley值用于通过将每个特征对模型输出的贡献归因来解释个体预测。这种方法通常被称为SHAP（SHapley Additive exPlanations），提供了一个既有理论依据又实际可行的特征重要性统一框架。计算精确Shapley值的计算复杂度随特征数量呈指数增长，这促使了各种近似方法的发展。
定义与公式
形式上，考虑一个具有参与者集合 \( N \) 和值函数 \( v \) 的合作博弈，其中 \( v \) 为每个子集（联盟） \( S \subseteq N \) 分配一个实数。参与者 \( i \) 的Shapley值定义为：
\[ \phi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S)) \]
其中 \( n = |N| \)。该公式可以解释为参与者 \( i \) 在所有可能的联盟形成顺序中的平均边际贡献。一个等价公式对所有 \( n! \) 个参与者排列求和，其中 \( P_i^R \) 是排列 \( R \) 中在 \( i \) 之前的参与者集合：
\[ \phi_i(v) = \frac{1}{n!} \sum_R \left[ v(P_i^R \cup \{i\}) - v(P_i^R) \right] \]
值函数 \( v(S) \) 表示联盟 \( S \) 通过合作所能实现的总收益。Shapley值将总价值 \( v(N) \) 分配给所有参与者，确保每个参与者获得其对整体结果的平均贡献。
性质
Shapley值是唯一满足以下四个公理的解概念，这些公理被认为是公平分配的基本要求：
- 效率性：所有Shapley值之和等于大联盟的总价值，即 \( \sum_{i \in N} \phi_i(v) = v(N) \)。这确保了全部收益得到分配。
- 对称性：如果两个参与者 \( i \) 和 \( j \) 对所有联盟的贡献相同（即对于所有 \( S \subseteq N \setminus \{i,j\} \)，有 \( v(S \cup \{i\}) = v(S \cup \{j\}) \)），则他们获得相同的Shapley值。这保证了相同贡献者之间的公平性。
- 可加性：对于任意两个博弈 \( v \) 和 \( w \)，组合博弈 \( v + w \) 的Shapley值是各博弈Shapley值之和，即 \( \phi_i(v + w) = \phi_i(v) + \phi_i(w) \)。这一性质允许对复杂博弈进行分解。
- 虚拟参与者性质：如果参与者 \( i \) 对任何联盟都没有增加价值（即对于所有 \( S \subseteq N \setminus \{i\} \)，有 \( v(S \cup \{i\}) = v(S) \)），则 \( \phi_i(v) = 0 \)。这确保了不贡献的参与者不会获得任何收益。
这些性质使Shapley值成为一种独特且有原则的参与者间信用或成本分配方法。
在机器学习中的应用
在机器学习中，Shapley值被应用于解释模型预测，通过将每个特征视为参与者，将模型输出视为值函数。对于给定预测，特征的Shapley值量化了其对模型输出与平均预测之间差异的贡献。这种方法被称为SHAP，由Scott Lundberg和Su-In Lee于2017年推广。SHAP值提供了一种统一的特征重要性度量，与Shapley值的公理一致，使其成为模型可解释性的可靠工具。
Shapley值在机器学习中的使用显著增长，尤其是在理解模型决策至关重要的领域，如金融、医疗保健和自主系统。例如，在信用评分中，SHAP值可以揭示哪些因素最影响贷款审批决策，有助于监管合规和公平性审计。在医学诊断中，它们帮助临床医生理解模型为何预测某种疾病，从而增加对AI辅助决策的信任。
计算挑战
计算精确Shapley值需要评估所有 \( 2^n \) 个可能联盟的值函数，这对于具有许多特征的模型在计算上是不可行的。对于具有 \( n \) 个特征的模型，复杂度为 \( O(2^n) \)，使得精确计算在超过几十个特征时变得不切实际。为解决这一问题，已开发出多种近似方法：
- 蒙特卡洛采样：随机采样特征排列并平均边际贡献，提供无偏估计并具有可控方差。
- TreeSHAP：一种专门为基于树的模型（如随机森林、梯度提升）设计的算法，通过利用决策树的结构在多项式时间内计算精确Shapley值。
- KernelSHAP：一种模型无关的方法，使用加权线性回归来近似Shapley值，适用于任何黑盒模型。
- 基于梯度的方法：对于神经网络，使用梯度或注意力机制的近似方法可以提供快速估计，尽管可能不满足所有Shapley公理。
这些近似方法使得将Shapley值应用于大规模机器学习模型（包括深度神经网络和大语言模型）成为可能，在这些模型中，可解释性日益重要。
相关概念与扩展
Shapley值已被以多种方式扩展和调整以满足不同需求。在合作博弈论中，Shapley-Shubik权力指数和Banzhaf权力指数是投票博弈的专门应用。在机器学习中，SHAP已被扩展以处理特征之间的交互，提供捕捉协同效应的二阶归因。此外，该概念已被应用于解释大语言模型的行为，帮助识别输入文本中哪些部分对生成输出影响最大。
Shapley值也与其他归因方法相关，如LIME（局部可解释模型无关解释），但由于其公理基础，它提供了更强的理论保证。LIME侧重于局部保真度，而SHAP确保一致性和局部准确性，使其在许多实际应用中成为首选。
历史背景
Lloyd Shapley在其1951年的论文《n人博弈的价值》中引入了这一概念，为合作博弈论奠定了基础。他的工作为他赢得了2012年诺贝尔经济学纪念奖，与Alvin Roth共享，以表彰他们对稳定分配理论和市场设计实践的贡献。Shapley值此后成为经济理论的基石，影响了成本分配、利润分享和网络分析等领域。
在2010年代，机器学习的兴起和对模型可解释性的需求使Shapley值重新受到关注。研究人员认识到合作博弈中的公平公理与解释模型预测的要求相符，从而推动了SHAP的发展及其广泛采用。如今，Shapley值是数据科学家和AI研究人员工具箱中的标准工具，弥合了博弈论与现代人工智能之间的鸿沟。
参见
参考文献
- Shapley, L. S. (1951). "A Value for n-Person Games." In Contributions to the Theory of Games, volume II.
- Lundberg, S. M., & Lee, S.-I. (2017). "A Unified Approach to Interpreting Model Predictions." Advances in Neural Information Processing Systems.
- Strumbelj, E., & Kononenko, I. (2014). "Explaining Prediction Models and Individual Predictions with Feature Contributions." Knowledge and Information Systems.