增强型槽注意力分类器的可解释图像识别
内容提要
本文提出了一种透明且准确的基于插槽注意力的分类器SCOUTER，强调可解释性和视觉解释。研究结合人类注意力知识，增强计算机视觉模型的合理性，并通过建立XAI基准推动视觉解释技术的发展。此外，提出了一种基于熵的新评估方法，以提高高分辨率卫星图像中建筑物分割的透明度和可解释性。
延伸解读
可解释性评估的基准化进展
文章介绍了XAI基准的构建，该基准整合了多主题数据集、类别标签和解释注释，并提供了涵盖数据加载、预处理、实验设置和模型评估的完整流程。这使研究人员能够公平比较各种视觉解释技术，同时文章还对超过10种评估方法进行了综合评述，为领域内标准化评估提供了重要参考。
从分类到分割的跨任务解释
文章将XAI方法扩展到多类别图像分割，特别针对高分辨率卫星图像中的建筑物分割，并引入基于熵的新评估指标来衡量模型不确定性。这表明可解释性研究正从图像分类向更复杂的像素级任务延伸，为遥感等应用提供了透明度和可解释性支持。
解释的脆弱性与对抗性风险
文章通过AttaXAI算法揭示了XAI方法本身可能被操纵：在无需梯度或模型内部信息的情况下，仅通过微调输入图像就能使解释输出特定结果。这提醒我们，可解释性工具并非绝对可靠，在安全敏感场景中需警惕解释被恶意引导的风险。
融合人类注意力与交互式解释
文章探索了将人类注意力知识融入基于显著性的XAI方法，通过可训练激活函数和平滑核最大化显著图与人类注意图的相似性，提升物体检测模型的可靠性。同时，基于用户互动的方法允许用户修改图像并观察分类变化，从而辨别关键特征，使解释更直观且易于理解。
Q&A
SCOUTER分类器的主要特点是什么？
SCOUTER分类器透明且准确，提供直观的解释，并为所有类别提供正面或负面解释。
如何增强计算机视觉模型的合理性和可靠性？
通过将人类注意力知识融入XAI方法，结合显著性技术来增强模型的合理性和可靠性。
XAI基准的目的是什么？
XAI基准旨在提供公平比较各种视觉解释技术的框架，并推动视觉解释模型的进步。
新提出的基于熵的评估方法有什么应用？
该评估方法用于提高高分辨率卫星图像中建筑物分割的透明度和可解释性。
CLIMAX技术的功能是什么？
CLIMAX是一种后操作模型无关的XAI技术，提供黑盒分类器的对比解释。
XCNN在特征表示方面的优势是什么？
XCNN能够表示视觉刺激的重要特征，并在热图生成方面优于当前算法，无需本地化标签。
