概念瓶颈模型（CBM）是一类神经网络架构，旨在通过两阶段过程进行预测，其中包含一个显式的、人类可解释的中间概念层。CBM 不直接将原始输入映射到输出，而是首先预测一组预定义的、语义上有意义的属性（即概念），然后利用这些预测的概念做出最终决策。这种设计使人类能够检查、理解甚至干预模型的内部推理过程，从而解决了标准黑盒模型在机器学习和深度学习中的一个关键局限性。
概念瓶颈方法最初由 Pang Wei Koh、Thao Nguyen、Yew Siang Tang、Stephen Mussmann、Brandon Ying 和 Percy Liang 在 2020 年的一篇论文中正式提出，他们隶属于斯坦福大学和多伦多大学。这篇题为“Concept Bottleneck Models”的论文表明，通过强制模型在最终输出前预测可解释的概念，可以在获得竞争性准确率的同时，具备调试和控制模型行为的能力。这项工作建立在早期关于可解释和解耦表示的思想之上，但提供了一种具体的、可训练的架构，此后影响了广泛的研究领域。
架构与训练
概念瓶颈模型由三个主要组件组成：输入编码器、概念预测器和任务预测器。输入编码器将原始数据（例如图像、文本序列或表格记录）处理为特征表示。然后，概念预测器将此表示映射为概念分数向量，每个预定义概念对应一个分数。最后，任务预测器将这些概念分数（以及可选的原始特征）作为输入，以产生最终输出，例如类别标签或回归值。
训练 CBM 通常遵循三种范式之一：独立训练、顺序训练和联合训练。在独立训练中，首先训练概念预测器以预测真实概念标签，然后训练任务预测器基于预测的概念（或基于真实概念，同时冻结概念预测器）。顺序训练先训练概念预测器，然后在保持概念预测器固定的情况下训练任务预测器，但在任务训练期间使用预测的概念。联合训练同时优化两个组件，通常使用结合概念预测误差和任务预测误差的加权损失。联合训练通常能获得最佳的任务准确率，但可能牺牲概念准确率。一种常见的变体是“干预感知”训练，即训练模型对人类对概念预测的修正具有鲁棒性，允许用户在测试时纠正错误。
可解释性与干预
CBM 的主要动机是可解释性。通过约束模型通过人类可理解的概念进行推理，用户可以查看模型认为存在的概念以及这些概念如何影响最终预测。例如，在鸟类分类任务中，CBM 可能预测“有黄色腹部”、“有尖翅膀”和“有长尾巴”等概念，然后利用这些概念对物种进行分类。这种透明性使领域专家能够验证模型是否使用了合理的特征，而不是虚假的相关性。
CBM 的一个显著特点是能够进行干预。如果用户知道模型的概念预测是错误的（例如，未能检测到黄色腹部），他们可以手动纠正该概念值，任务预测器将基于纠正后的概念产生新的输出。这种人在回路的能力在医学或金融等高风险领域非常有价值，在这些领域中，模型的错误可以在做出最终决策前得到纠正。研究表明，即使少量的干预也能显著提高准确率，尤其是在概念预测器不完美的情况下。
应用
CBM 已被应用于多个领域。在医学影像中，它们被用于胸部 X 光诊断，其中概念对应于可见的病理特征，如“心脏肥大”或“积液”。在皮肤病学中，CBM 可以在分类恶性肿瘤之前预测皮肤病变的属性。在自动驾驶中，诸如“存在行人”或“交通灯颜色”等概念可用于驾驶决策，尽管这不如在感知任务中常见。在自然语言处理中，CBM 已被应用于情感分析和毒性检测，其中概念包括“包含亵渎语言”或“表达愤怒”。在表格数据中，CBM 已被用于信用评分，其中“收入水平”和“支付历史”等概念是可解释的。
变体与扩展
为了解决局限性，研究人员提出了多种 CBM 变体。无标签 CBM（由 Tu、Ma 等人于 2022 年提出）通过使用大型预训练模型（例如大型语言模型或视觉-语言模型）从类别描述中自动生成概念标签，从而消除了手动概念标注的需求。这减轻了标注负担，而标注是 CBM 应用于新任务的主要瓶颈。另一种变体，概念嵌入模型，将概念投影到连续嵌入空间中，而不是使用二元或分类标签，从而允许更丰富的概念表示。事后 CBM 尝试从已训练的黑盒模型中提取概念瓶颈，使用探测或聚类技术来识别可解释的维度。
其他扩展包括概率 CBM，它建模概念不确定性，以及交互式 CBM，它允许用户查询模型哪些概念最具影响力。一些工作已将 CBM 与Transformer架构集成，使用注意力机制将概念与输入区域对齐。
局限性与挑战
尽管有诸多优点，CBM 仍面临若干挑战。最显著的是对概念标注的需求，这既昂贵又常常带有主观性。为任务定义一套完整且不重叠的概念是困难的，缺失的概念可能导致信息损失和准确率下降。CBM 在复杂任务上的表现通常也逊于标准黑盒模型，因为概念瓶颈限制了信息流。可解释性与准确率之间的权衡是一个核心研究问题。
另一个问题是概念泄漏：任务预测器可能以非预期的方式使用概念预测，或者概念预测器可能编码超出所述概念的信息（例如，通过相关特征）。这可能使模型的可解释性低于预期。此外，人类干预只有在任务预测器对概念修正具有鲁棒性时才有效；否则，纠正一个概念可能不会按预期改变输出。
与其他可解释性方法的关系
CBM 是更广泛的可解释机器学习技术家族的一部分。它们通常与事后解释方法（如显著性图或基于梯度的归因）形成对比，后者试图在训练后解释黑盒模型。CBM 在设计上本质上是可解释的，这在高风险决策中通常更受青睐。它们也与基于概念的解释相关，例如概念激活向量测试（TCAV），后者使用方向导数来衡量概念影响，但 TCAV 不约束模型的架构。CBM 有时也与决策树和基于规则的模型进行比较，这些模型同样本质上是可解释的，但灵活性较低。
当前研究与未来方向
关于 CBM 的研究持续发展。近期工作侧重于将 CBM 扩展到大规模数据集，并将其与基础模型集成。例如，使用CLIP风格的嵌入在连续空间中定义概念已显示出前景。另一个方向是在强化学习和机器人技术中使用 CBM，其中可解释的中间表示有助于安全性和调试。此外，人们还对将 CBM 用于公平性和偏见缓解感兴趣，因为概念瓶颈允许审计者检查是否使用了受保护的属性。
截至 2025 年，CBM 仍是一个活跃的研究领域，相关论文出现在 NeurIPS、ICML 和 ICLR 等主要会议上。可解释性与性能之间的权衡尚未完全解决，但该领域正朝着更灵活、更可扩展的基于概念的模型发展，包括那些动态学习概念而非依赖固定人类定义集的模型。