Dynamic Accumulated Attention Map for Interpreting the Evolution of Decision-Making in Vision Transformers
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种新颖的视觉解释方法——动态累积注意力图(DAAM),用于可视化视觉变换器(ViT)中的注意力流,揭示了决策注意力的动态演变,并验证了其在自监督和监督ViT模型中的有效性和优越性。
🎯
关键要点
-
本研究提出了一种新颖的视觉解释方法——动态累积注意力图(DAAM)。
-
DAAM用于可视化视觉变换器(ViT)中的注意力流,揭示决策注意力的动态演变。
-
该方法通过解锁自注意力模块生成的[class]标记,首次实现了ViT网络中注意力流的可视化。
-
研究验证了DAAM在自监督和监督ViT模型中的有效性和优越性。
🏷️