Dynamic Accumulated Attention Map for Interpreting the Evolution of Decision-Making in Vision Transformers
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种新颖的视觉解释方法——动态累积注意力图(DAAM),用于可视化视觉变换器(ViT)中的注意力流,揭示了决策注意力的动态演变,并验证了其在自监督和监督ViT模型中的有效性和优越性。
🎯
关键要点
- 本研究提出了一种新颖的视觉解释方法——动态累积注意力图(DAAM)。
- DAAM用于可视化视觉变换器(ViT)中的注意力流,揭示决策注意力的动态演变。
- 该方法通过解锁自注意力模块生成的[class]标记,首次实现了ViT网络中注意力流的可视化。
- 研究验证了DAAM在自监督和监督ViT模型中的有效性和优越性。
➡️