VLM 注意到了什么?一个用于无噪音文本 - 图像破坏与评估的机制可解释性流程
原文中文,约300字,阅读约需1分钟。发表于: 。通过在视觉语言模型中引入 NOTICE 技术,实现了对其决策过程的透明化和可解释性,从而揭示了关键的决策因素和多模态整合中的中间层交叉注意力。
本文介绍了一种新颖简单的方法,利用Text-to-Image模型生成图像标题,并通过计算嵌入相似性来检测对抗样本。实证评估显示该方法在检测对抗样本方面优于基线方法,同时适用于分类任务且具有模型不可知性。该方法对自适应攻击具有韧性,是一种出色的对抗威胁防御机制。