梯度加权类激活映射（Grad-CAM）是一种在深度学习中用于提升卷积神经网络可解释性的技术。它生成一种粗粒度、类似热力图的可视化，突出显示输入图像中对特定预测影响最大的区域。与早期需要特定网络结构的类激活映射方法不同，Grad-CAM 适用于广泛的基于 CNN 的模型，无需修改架构或重新训练。该方法由 Ramprasaath R. Selvaraju、Michael Cogswell、Abhishek Das、Ramakrishna Vedantam、Devi Parikh 和 Dhruv Batra 于 2017 年提出，并在 IEEE 国际计算机视觉大会（ICCV）上发表。此后，它已成为模型调试、科学分析以及建立对 AI 系统信任的标准工具。
Grad-CAM 的核心思想是利用目标类别得分相对于最后一个卷积层特征图的梯度。这些梯度反映了特征图中每个空间位置对类别得分的贡献程度。通过对梯度在空间维度上进行全局平均池化，Grad-CAM 为每个特征图通道计算出重要性权重。随后，将这些权重与特征图加权组合，并通过 ReLU 激活函数仅保留正贡献部分，从而生成一张粗粒度的定位图。该图最终被上采样至输入图像的尺寸并叠加显示，以指示模型“关注”的位置。
Grad-CAM 是对早期方法的推广。原始的类激活映射（CAM）方法由 Zhou 等人于 2016 年提出，要求网络包含全局平均池化层和全连接层，并利用全连接层的权重作为通道重要性。Grad-CAM 通过使用梯度消除了这一结构限制，使其适用于任何包含卷积层的 CNN。这种灵活性使 Grad-CAM 在计算机视觉研究与应用中被广泛采用。
数学公式
对于给定的图像和目标类别 c，设 y^c 为 softmax 层之前该类别的原始得分（logit）。设 A^k 为最后一个卷积层的第 k 个特征图，其空间尺寸为 H × W。通道 k 的重要性权重 α_k^c 通过对 y^c 关于 A^k 的梯度进行全局平均池化计算得到：
α_k^c = (1/Z) * Σ_i Σ_j (∂y^c / ∂A^k_{ij})
其中 Z = H × W 为空间位置总数。Grad-CAM 图 L^c 通过对特征图进行加权组合并应用 ReLU 得到：
L^c = ReLU( Σ_k α_k^c * A^k )
ReLU 确保仅突出对类别得分有正影响的特征。最终，该图被双线性插值上采样至输入图像的分辨率，并归一化到 [0,1] 范围以便可视化。
与其他可视化方法的比较
Grad-CAM 属于一类通过突出输入区域来解释模型预测的归因方法。其他方法包括显著图（Saliency Maps，Simonyan 等人，2013），它直接使用类别得分对输入图像的梯度；导向反向传播（Guided Backpropagation，Springenberg 等人，2014），通过修改反向传播过程生成更精细的可视化；以及积分梯度（Integrated Gradients，Sundararajan 等人，2017），它沿从基线到输入的路径累积梯度。Grad-CAM 具有类别判别性，但生成的是粗粒度图；而导向反向传播能生成细粒度图，但缺乏类别判别性。为结合两者优点，作者提出了 Grad-CAM++，利用高阶梯度对特征图进行加权，并进一步提出了导向 Grad-CAM（Guided Grad-CAM），将导向反向传播与 Grad-CAM 图逐元素相乘，从而获得高分辨率且具有类别判别性的可视化结果。
在计算机视觉中的应用
Grad-CAM 已在多个领域得到应用。在医学影像中，它帮助放射科医生理解模型为何在 X 光、MRI 或 CT 扫描中标出病变或异常区域。例如，用于检测胸部 X 光片中肺炎的模型，可通过检查高亮区域是否对应肺部阴影来验证其判断依据。在自动驾驶中，Grad-CAM 可显示模型在车道检测或障碍物识别时依赖道路场景中的哪些部分，从而辅助安全性验证。在细粒度分类任务中，如鸟类或汽车型号识别，Grad-CAM 能揭示驱动预测的关键判别特征（如鸟喙形状或车灯）。此外，它还被应用于遥感、农业和工业检测等领域。
局限性与批评
尽管 Grad-CAM 广受欢迎，它也存在一些局限性。其定位图通常较为粗糙，分辨率受限于最后一个卷积层，可能遗漏细微特征。该方法对目标层的选择较为敏感；使用较浅层可得到更精细的图，但类别判别性会下降。当模型依赖负证据（如某特征不存在）时，Grad-CAM 可能产生误导性可视化。此外，有研究表明，在不改变预测结果的情况下，Grad-CAM 图可被对抗性扰动操纵，这引发了对其在可解释性应用中可靠性的担忧。另外，该方法假设模型的决策基于空间特征，这一假设并非适用于所有网络架构。
扩展与变体
为克服 Grad-CAM 的局限，研究者提出了多种扩展方法。Grad-CAM++（Chattopadhay 等人，2018）使用正偏导数的加权组合，在多个目标实例场景下生成更精确的图。Score-CAM（Wang 等人，2020）完全摒弃梯度，改用类别得分增量作为权重，从而减少噪声。Ablation-CAM（Desai 和 Ramaswamy，2020）通过消融研究计算通道重要性。Layer-CAM（Jiang 等人，2021）结合基于梯度和非梯度的方法，生成高分辨率图。这些变体已在 PASCAL VOC 和 COCO 等数据集上进行了弱监督目标定位任务的基准测试，Grad-CAM 及其后继方法均取得了有竞争力的结果。
与其他 AI 模型的集成
Grad-CAM 主要针对 CNN 设计，但其原理已被推广至其他架构。对于视觉Transformer（ViT），可直接使用注意力图，但基于梯度的方法也已应用于类别令牌的注意力头。在大语言模型和生成模型中，类似的基于梯度的归因技术被用于解释词元级别的预测，尽管空间解释方式有所不同。Grad-CAM 还与残差网络和U-Net等架构结合，用于分割任务，帮助识别模型在分割决策中所依赖的输入区域。
实际使用与工具
Grad-CAM 已在主流深度学习框架中实现。在 PyTorch 中，torchcam 和 pytorch-grad-cam 等库提供了现成函数。TensorFlow 则通过 tf-explain 提供类似实现。原始作者也发布了与论文配套的代码仓库，该仓库已被广泛复刻和扩展。典型的使用流程包括：加载预训练模型（如 VGG16、ResNet50 或 EfficientNet），选择目标层（通常是最后一个卷积块），然后对给定图像和类别计算 Grad-CAM 热力图。输出结果可使用 OpenCV 或 matplotlib 等库叠加到原图上。许多关于可解释 AI 的教程和课程都将 Grad-CAM 作为核心内容。
影响与未来方向
Grad-CAM 对可解释 AI 领域产生了深远影响，被引用数千次，并成为可解释性研究中的标准基线。它的成功推动了关于忠实且稳健解释方法的进一步研究，包括验证高亮区域是否真正因果性地驱动预测。未来的研究方向包括将 Grad-CAM 扩展到视频数据、三维医学影像，以及结合视觉与语言的多模态模型。随着 AI 系统在医疗、自动驾驶等高危领域的部署日益增多，Grad-CAM 这类技术将在模型审计和信任建立中持续发挥重要作用。
参考文献
Selvaraju, R. R., Cogswell, M., Das, A., Vedantam, R., Parikh, D., & Batra, D. (2017). Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization. ICCV.
Zhou, B., Khosla, A., Lapedriza, A., Oliva, A., & Torralba, A. (2016). Learning Deep Features for Discriminative Localization. CVPR.
Chattopadhay, A., Sarkar, A., Howlader, P., & Balasubramanian, V. N. (2018). Grad-CAM++: Generalized Gradient-based Visual Explanations for Deep Convolutional Networks. WACV.
Wang, H., Wang, Z., Du, M., Yang, F., Zhang, Z., Ding, S., Mardziel, P., & Hu, X. (2020). Score-CAM: Score-Weighted Visual Explanations for Convolutional Neural Networks. CVPR Workshop.