概念瓶颈模型（CBM）是一种神经网络架构，旨在通过强制模型首先输出一组人类可理解的概念，再基于这些概念做出最终预测，从而提高预测的可解释性。这种两阶段设计与标准的端到端深度学习模型形成对比，后者内部的表征通常是难以理解的。通过将中间层约束为有意义的属性，CBM 使用户能够观察哪些概念影响了预测结果，甚至可以通过修正概念值来干预并改变最终输出。
概念瓶颈模型于 2020 年由MIT 计算机科学与人工智能实验室和斯坦福人工智能实验室的研究人员提出，旨在回应医疗诊断、自动驾驶等高危场景中对透明度的迫切需求。其核心思想源于可解释机器学习领域的早期工作，特别是计算机视觉中语义属性的使用，但将其形式化并融入现代深度学习框架。自提出以来，CBM 已被不断扩展和改进，出现了多种变体，以应对准确率权衡问题，并放宽了对概念标签的依赖。
架构与机制
标准的概念瓶颈模型由两个主要部分组成：概念编码器和任务预测器。概念编码器接收输入（例如图像或文本），并输出一个概念得分向量，其中每个得分对应一个预定义概念的预测强度。这些概念由人类专家选定，并应具有明确的语义含义，例如图像分类器中的“有羽毛”或“有轮子”。
任务预测器随后将这些概念得分作为输入，产生最终输出，例如类别标签或回归值。整个模型采用联合训练的方式，损失函数同时作用于概念预测和最终任务预测。在推理阶段，模型支持三种使用模式：独立模式（使用预测的概念）、顺序模式（使用预测的概念，但任务预测器基于真实概念训练）以及交互模式（允许用户在最终预测前修正概念值）。
概念层之所以被称为瓶颈，是因为它限制了输入与最终输出之间的信息流动。这种限制是有意设计的：它迫使模型以人类可解释的属性进行推理，而非依赖难以理解的潜在特征。概念的选择至关重要，这些概念既要能有效预测任务，又必须能被目标用户理解。
训练与损失函数
训练概念瓶颈模型通常涉及多任务损失。总损失是概念预测损失（二值概念常用二元交叉熵，连续概念常用均方误差）与任务预测损失（如分类任务中的交叉熵）的加权和。权重可用于调节概念准确率与任务准确率之间的侧重。
在最初的公式中，概念编码器和任务预测器是从零开始联合训练的。然而，后续工作探索了两阶段训练方法：先训练概念编码器以预测概念，再在冻结的概念编码器之上训练任务预测器。这种方法可能更稳定，并允许使用预训练的概念编码器。另一种变体称为“干预感知”训练，在训练过程中引入模拟的用户干预，使模型对测试阶段的概念修正更加鲁棒。
一个关键挑战在于，概念标签的获取成本通常很高。为解决这一问题，一些方法采用弱监督或无监督方式来发现概念，但这可能会牺牲人类可解释性的保证。其他方法，如“事后”概念瓶颈模型，先训练一个标准的黑盒模型，再拟合一个概念层来解释其决策，但这并不能保证概念与决策之间存在因果关系。
准确率权衡
对概念瓶颈模型的主要批评之一是，与标准端到端模型相比，其性能可能较低，尤其是在概念集合不完整或概念与任务预测之间关联不强的情况下。瓶颈限制了传递给最终预测器的信息量，如果概念未能涵盖所有相关特征，准确率便会下降。实证研究表明，在 CUB-200-2011（鸟类）和 AwA2（动物）等基准数据集上，CBM 的准确率通常低于无约束模型。
然而，这种权衡并非总是严重。在某些任务中，特别是当概念与决策边界高度对齐时，CBM 可以达到与黑盒模型相近的性能。研究人员还提出了多种缓解准确率差距的方法，例如允许任务预测器额外接收来自输入的残差连接（绕过瓶颈），或使用规模更大的概念词汇表。概念的选择及其监督质量是影响准确率与可解释性权衡的最关键因素。
变体与扩展
自原始 CBM 提出以来，已发展出多种重要变体。“带额外输入的概念瓶颈模型”（CBM-AI）在任务预测器中加入了来自输入的残差连接，使模型在必要时可以利用不可解释的特征，但代价是可解释性有所降低。“干预感知概念瓶颈模型”（IA-CBM）在训练中引入模拟干预，使其对用户修正更为敏感。
另一条研究路线聚焦于概念的自动发现。例如，“概念嵌入模型”学习概念的嵌入表示而非二值得分；“无标签概念瓶颈模型”利用预训练的大语言模型从文本描述中生成概念候选，从而减少人工标注的需求。这些方法已被应用于医学影像和自然语言处理等领域，这些领域中概念标签往往稀缺。
在生成式 AI 的背景下，CBM 也被用于通过干预概念值来控制图像生成模型的输出。例如，可以通过设置“红腹”或“长尾”等概念得分，生成具有特定属性的鸟类图像。这展示了该架构在分类任务之外更广泛的应用潜力。
应用
概念瓶颈模型已在多个高风险领域得到应用。在医疗领域，它们被用于皮肤病诊断和基于电子健康记录的结果预测，临床医生能够看到哪些症状或特征影响了决策。在自动驾驶中，CBM 可基于“停车标志”或“行人穿越”等概念来预测交通标志或行人行为，从而支持更安全的人机协作。
在金融领域，CBM 被应用于信用评分和欺诈检测，监管要求通常需要对自动化决策进行解释。在自然语言处理中，它们被用于情感分析和有害内容检测，以“积极情感”或“包含仇恨言论”等概念作为中间输出。CBM 提供的可解释性也有助于调试：开发人员可以定位导致错误的概念并进行修正。
局限性与批评
尽管概念瓶颈模型具有诸多优势，它也面临若干局限性。最显著的问题是对预定义概念的依赖，这需要领域专业知识，且可能无法覆盖任务的所有相关方面。如果某个关键概念缺失，模型便无法利用它，可能导致系统性错误。此外，概念之间相互独立的假设在实践中常常不成立，如何对概念间的相关性进行建模仍是一个开放的研究问题。
另一个批评点是，CBM 的可解释性质量完全取决于概念定义本身。如果概念模糊或相互重叠，解释就可能产生误导。此外，用户未必具备有效干预的能力，而交互模式需要人类参与，这在某些部署场景中可能并不可行。最后，准确率权衡仍然是一个实际障碍，一些研究者认为，对黑盒模型使用事后解释方法可以在不牺牲性能的情况下获得类似的洞察。
未来方向
概念瓶颈模型的研究仍在持续发展，涌现出多个有前景的方向。一个方向是与Transformer架构的整合，Transformer 已在视觉和语言领域占据主导地位。近期工作探索了如何将概念瓶颈引入基于 Transformer 的模型，例如在中间层添加概念预测头。另一个方向是利用人类反馈来优化概念定义，使模型更好地与用户期望对齐。
此外，人们越来越关注将 CBM 用于模型剪枝和效率优化，因为瓶颈结构本身可用于降低计算成本。同时，概念瓶颈框架正在向多模态输入扩展，其中概念可以跨越不同模态，例如结合视觉和文本属性。随着对可解释人工智能需求的增长，尤其是在监管严格的行业中，概念瓶颈模型预计仍将是研究和开发的热点领域。