注意力导向 CAM：自注意力引导视觉变换器的视觉解释
内容提要
本文综述了Vision Transformer（ViT）可解释性研究进展，涵盖无需梯度的显著性图方法（如ViT-ReciproCAM）、3D目标检测注意力可视化、医学影像逐层相关传播、SM-ViT细粒度分类、EL-ViT交互式分析系统及IA-ViT可解释训练等，旨在提升ViT的透明度与信任度。
延伸解读
ViT可解释性方法概览
文章综述了多种ViT可解释性方法，包括无需梯度的ViT-ReciproCAM、基于注意力的3D目标检测可视化、医学影像中的逐层相关传播、SM-ViT细粒度分类、EL-ViT交互式分析系统以及IA-ViT可解释训练等。这些方法从不同角度提升ViT透明度，例如ViT-ReciproCAM利用激活令牌与预测的相关性生成显著性图，在ADCC指标上优于现有方法。
注意力机制与解释效率
文章指出，基于原始注意力的方法比基于梯度的方法更高效，例如在3D目标检测中，利用注意力生成显著性图无需梯度计算。同时，聚合不同层的注意力对解释质量至关重要。此外，ViT-ReciproCAM作为梯度无关方法，避免了关注矩阵和梯度信息，提供了一种高效易实现的替代方案。
应用场景与性能表现
这些解释方法应用于图像分类、目标检测、医学影像和细粒度分类等任务。在医学影像中，逐层相关传播法在准确性和可靠性上胜过其他方法；SM-ViT在细粒度分类中表现更优且需要更少资源；IA-ViT通过单头自注意力提供忠实解释。这些进展有助于提升AI应用的信任度。
Q&A
ViT-ReciproCAM 是什么？它有什么优势？
ViT-ReciproCAM 是一种无需梯度的视觉解释方法，用于 Vision Transformer (ViT)。它不需要关注矩阵和梯度信息，通过利用激活的令牌和网络预测之间的相关性来生成更局部化的显著性地图，在 ADCC 指标上优于现有最先进的相关性方法。
如何为 3D 目标检测生成 ViT 的显著性图？
针对具有多个相机输入的 DetR-like ViT，可以基于原始注意力生成显著性图，这种方法比基于梯度的方法更高效。在 nuScenes 数据集上的扰动测试表明，该方法在视觉质量和定量指标上优于其他可解释性方法，并且聚合不同层的注意力很重要。
在医学影像中，哪种 ViT 解释方法表现更好？
在医学影像领域，Transformer 的逐层相关传播法（Layer-wise Relevance Propagation）胜过本地可解释的模型不可知性解释和注意力可视化方法，能更准确可靠地表示 ViT 已经学到了什么。
SM-ViT 是什么？它解决了什么问题？
SM-ViT 是一种简单有效的 Salient Mask-Guided Vision Transformer 方法，用于细粒度视觉分类（FGVC）。它能够捕捉潜在的可区分特征，提高 ViT 模型的分类性能，且比现有基于 ViT 的方法表现更优秀，需要更少的资源和较低的输入图像分辨率。
EL-ViT 系统有什么功能？
EL-ViT 是一个交互式可视化分析系统，帮助 ViT 用户理解 ViT 的工作机制。它通过四个层次的可视化视图展示 ViT 的模型架构、操作过程和数学运算，以及计算图块之间的余弦相似度。
IA-ViT 模型是如何提升 ViT 可解释性的？
IA-ViT 通过一种新的训练过程来促进模型的可解释性，解决 Vision Transformers 在解释性方面的不足。它采用单头自注意机制提供忠实的解释，并有效应用于几个图像分类任务。
