锚点（Anchors）是机器学习中用于生成模型预测局部解释的一种技术。它们由华盛顿大学的研究人员于2018年提出，由Marco Tulio Ribeiro领导，作为早期LIME（局部可解释模型无关解释）方法的后继者。锚点以简单、基于规则的条件形式提供解释，这些条件足以使特定预测成立，无论其他特征如何变化。与LIME通过线性模型局部近似模型不同，锚点旨在创建精确、高精度的规则，清晰界定预测何时是保证的或高度可能的。
锚点的核心思想是回答这个问题：“如果存在，哪些最小的特征值集合足以让模型产生相同的输出？”例如，在垃圾邮件分类器中，一个锚点可能是“如果电子邮件包含‘彩票’一词且发件人不在联系人列表中，则预测为垃圾邮件”，并声明精度为0.95。这个规则被视为锚点，因为它“锚定”了预测：只要条件成立，即使其他特征变化，预测也保持稳定。该技术是模型无关的，意味着它可以应用于任何黑盒模型，包括神经网络、深度学习系统和大型语言模型，而无需访问内部参数。
形式定义与精度
形式上，锚点是一个由一组特征-值对组成的规则。给定要解释的实例x，锚点A是应用于x的一组谓词。如果该规则满足两个属性：覆盖率和精度，则称其为锚点。覆盖率指局部邻域中满足规则的实例比例，而精度是满足规则的实例的模型预测与x的预测匹配的概率。目标是找到一个高精度（通常高于用户设定的阈值，如0.95）且覆盖率尽可能高的规则，以确保解释既准确又广泛适用。
为了在不枚举所有可能扰动的情况下估计精度，锚点使用多臂老虎机算法。该算法对原始实例进行扰动采样，其中扰动实例通过从分布（通常基于训练数据或背景数据集）替换特征值生成。老虎机方法高效地探索可能规则的空间，专注于那些可能具有高精度的规则。最终锚点是满足精度约束下最大化覆盖率的规则，并基于样本数量提供统计保证。
与LIME的比较
锚点是为了应对LIME的局限性而开发的，LIME也由Ribeiro及其同事于2016年提出。LIME通过在实例邻域内拟合稀疏线性模型来解释预测，但线性模型对于高度非线性的决策边界可能具有误导性。例如，线性近似可能暗示某个特征具有正或负效应，但实际上，该效应可能依赖于其他特征。锚点通过提供明确的if-then规则来避免这一点，这些规则是充分的，使它们对人类用户更直观。此外，LIME的解释不保证忠实于模型行为，而锚点提供了量化保真度的精度度量。
另一个关键区别是，LIME生成的解释是局部的，可能随扰动核变化，而锚点旨在更稳定和可解释。锚点还设计为更具可操作性：像“如果特征A和特征B，则预测C”这样的规则可以直接用于理解和潜在地干预系统。
算法与实现
锚点算法主要分为两个阶段：候选生成和验证。在第一阶段，它通过考虑实例中的特征值组合来生成候选规则。对于连续特征，它将其离散化为区间（例如，使用分位数）以创建谓词。该算法使用束搜索来探索规则空间，从最频繁的特征值开始并扩展。在验证阶段，每个候选规则通过采样扰动并计算经验精度进行测试。老虎机算法（具体为KL-LUCB算法）用于高效分配样本，当精度估计足够自信时停止。
该实现可在开源库anchor（微软interpret库的一部分）中获得，支持表格数据、文本和图像。对于文本，锚点可以基于单词的存在或缺失（例如，“如果短语‘不坏’出现，则情感为正面”）。对于图像，锚点使用超像素（图像片段）作为特征，规则可能是“如果这些像素存在，则图像被分类为狗”。该库还提供可视化工具，以人类可读的格式显示锚点。
实际应用
锚点已应用于模型可解释性至关重要的各个领域。在医疗保健中，锚点可以解释为什么模型预测患者患有某种疾病，基于年龄、血压和实验室结果等特征。例如，一个锚点可能是“如果年龄>60且收缩压>140，则心脏病高风险”。这有助于临床医生信任和验证模型的决策。在金融领域，锚点可以解释信用审批决策，确保符合要求对不利行动提供解释的法规。在欺诈检测中，锚点可以突出触发欺诈警报的交易特征组合。
在生成式AI和大型语言模型的背景下，锚点已被用于解释为什么模型生成特定响应。例如，情感分类器的锚点可能是“如果文本包含‘爱’和‘惊人’，则情感为正面”。然而，对于LLM，特征空间更复杂，锚点通常依赖于令牌级特征。研究人员还探索了使用锚点调试模型，识别导致错误预测的虚假相关性。
局限性与挑战
尽管有优势，锚点有几个局限性。首先，它们的好坏取决于用于生成反事实实例的扰动分布。如果分布不能反映现实变化，精度估计可能具有误导性。其次，锚点可能计算成本高，尤其是对于高维数据，因为搜索空间呈指数增长。第三，对于连续特征，离散化可能导致规则过粗或过细，影响可解释性。第四，锚点提供充分但非必要条件，因此可能无法完全解释为什么做出预测；同一预测可能有多个锚点，算法只找到一个。
另一个挑战是锚点在扰动过程中假设特征独立性，这在真实数据中可能不成立。例如，在文本中，某些单词的存在通常相关，但扰动可能独立处理它们，导致不现实的样本。研究人员提出了处理依赖关系的扩展，但这些尚未标准化。
扩展与相关工作
自锚点引入以来，已提出多种扩展。一个显著的扩展是使用决策规则进行全局解释，例如在SkopeRules库中，该库从树集成中提取规则。另一个是将锚点与反事实解释集成，其中目标是找到最小变化以翻转预测。锚点还与形式可解释性中的“充分理由”概念相关，该概念旨在计算保证预测的最小特征子集。在这一研究方向中，已开发算法使用形式验证技术为决策树和神经网络等模型计算精确锚点。
在更广泛的可解释AI（XAI）领域，锚点与其他局部解释方法并列，如SHAP（SHapley Additive exPlanations），它基于博弈论提供特征归因。虽然SHAP提供特征重要性的全局视图，但锚点提供更直接的基于规则的解释。一些研究比较了这两者，发现锚点通常对非专家更直观，而SHAP更全面。
影响与未来方向
锚点的引入影响了行业可解释性工具的发展。主要云提供商，包括亚马逊网络服务、Azure和谷歌云，已将基于规则的解释方法纳入其机器学习平台，允许用户为其基础设施上部署的模型生成锚点。例如，AWS SageMaker Clarify包含一个生成类似锚点解释的功能，Azure机器学习提供包括基于规则解释在内的可解释性组件。
未来的研究方向包括提高锚点对高维数据的可扩展性，开发处理特征依赖关系的方法，以及将锚点与允许用户探索替代规则的交互式工具集成。此外，随着深度学习模型变得更加复杂，对既忠实又可理解的解释的需求日益增长，锚点特别适合满足这一需求，尤其是与其他技术如模型剪枝和数据增强结合以提高模型简洁性时。
总之，锚点代表了局部可解释性的重要进步，在保真度和人类理解之间提供了平衡。通过为预测提供充分条件，它们使利益相关者能够理解和信任AI系统，这对于在高风险领域负责任地部署至关重要。