类激活映射（CAM）是深度学习中的一种技术，用于为卷积神经网络的预测生成可视化解释。它生成一个粗略的热力图，突出输入图像中与特定输出类别最相关的区域，从而提供一种模型可解释性。该方法在2016年由Bolei Zhou及其同事的论文中提出，此后成为理解和调试图像分类模型的基础工具。
CAM的核心思想是利用卷积网络特征图中保留的空间信息。在典型的分类架构中，最后一个卷积层生成一组特征图，每个特征图捕捉不同的视觉模式。通过根据这些特征图对特定类别的重要性进行加权，然后求和，可以得到一个单一的空间图，指示模型做出决策时“关注”的位置。该图通常被上采样到输入图像大小，并作为热力图叠加显示。
历史背景与动机
2010年代深度学习的兴起在图像分类等任务中带来了前所未有的准确性，但也引入了“黑箱”问题：模型为何做出特定预测往往不明确。这种缺乏透明度阻碍了其在医学成像和自动驾驶等关键领域的采用。CAM作为对这种可解释性需求的回应而开发，提供了一种简单而有效的方式来可视化卷积网络的推理过程。
在CAM之前，存在反卷积网络和遮挡敏感性等可视化技术，但它们要么计算成本高，要么提供的结果不够直观。CAM的独特之处在于，只要网络在最终分类层之前使用全局平均池化层，它就不需要额外训练或架构更改。这一约束是原始方法的关键限制，导致了后续变体的出现。
技术机制
原始CAM实现适用于在最后一个卷积层之后使用全局平均池化（GAP）层的网络。在这种架构中，最后一个卷积层的特征图在每个空间维度上取平均，生成一个值向量。该向量随后被输入到具有softmax激活的全连接层，以产生类别分数。
对于给定类别c，连接第k个特征图到类别分数的权重记为w_k^c。类别c的类激活图计算为特征图A_k的加权和，随后通过ReLU激活以仅保留正贡献：
M_c = ReLU(Σ_k w_k^c * A_k)
该求和产生一个2D空间图，可上采样到原始图像大小。生成的热力图突出强烈支持分类的区域，较亮的区域表示较高的相关性。
使用GAP至关重要，因为它迫使网络学习全局判别性的特征图，而不是专注于单一位置。这一特性使加权和作为定位工具有意义。
变体与扩展
已经提出了几种扩展来克服原始CAM的限制。一个显著的变体是Grad-CAM，由Ramprasaath R. Selvaraju及其同事于2017年提出。Grad-CAM将CAM推广到任何卷积神经网络，无需GAP层。它通过计算类别分数相对于特征图的梯度的全局平均值来获得权重，提供了一种更灵活的方法。
另一个扩展是Grad-CAM++，它通过使用正偏导数的加权组合来提高定位准确性。其他方法如Score-CAM和Ablation-CAM提供了替代的加权方案，通常产生更视觉上清晰的热力图。这些变体已被广泛采用于医学图像分析等领域，在这些领域中，理解模型决策对于临床信任至关重要。
应用与影响
CAM及其衍生方法已在许多领域找到应用。在医学成像中，它们帮助放射科医生验证诊断肺炎或皮肤癌等疾病的模型是否关注临床相关的特征，而非伪影。在自动驾驶中，它们通过显示场景的哪些部分影响车辆决策，帮助工程师调试感知系统。
除了可解释性，CAM还用于弱监督对象定位。由于热力图突出判别性区域，它们可以作为伪标签，用于训练检测模型而无需昂贵的边界框标注。这一应用在手动标注不切实际的大规模数据集中特别有价值。
该技术还影响了其他领域的研究，包括机器学习，其中类似的基于注意力的方法用于解释transformer模型。然而，CAM仍最直接地与卷积架构相关联。
局限性与考虑
尽管CAM有用，但它有已知的局限性。热力图是粗略的，可能无法捕捉对象的精细边界。它们仅反映最具判别性的部分，如果模型依赖虚假相关性，可能会产生误导。例如，一个训练用于分类狼和哈士奇的模型可能关注背景中的雪而非动物本身，而CAM会突出显示雪。
此外，原始CAM需要特定的网络架构，这限制了其直接适用性。虽然Grad-CAM等变体解决了这一问题，但它们引入了自己的假设，如梯度的线性，这并不总是成立。因此，CAM最好用作探索性工具，而非模型推理的确定性证明。
近年来，可解释AI领域已扩展到SHAP和LIME等方法，但CAM因其简单性和计算效率仍然是受欢迎的选择。它继续作为可解释性研究中的标准基线，并常被包含在深度学习库和框架中。