标准化的AOPC：修正特征归因可解释性中误导性的忠实度指标
内容提要
该研究提出了一种新型范式FAR，通过最小化属性映射的最大差异来训练模型的鲁棒属性。实验表明，该方法在对抗干扰下更稳健，并引入新的正则器以提高归因鲁棒性。此外，研究还提出了积分梯度正则化(IGR)方法，增强模型的对抗性，探索特征归因法的泛化能力及其在深度学习中的应用。
延伸解读
归因鲁棒性：从对抗攻击到正则化
文章指出，深度神经网络对相似图像可能产生迥异的归因图，这削弱了其可信度。为此，研究提出FAR范式，通过最小化局部邻域内属性映射的最大差异来训练鲁棒属性，并引入保护归因图免受攻击的正则器。实验表明，新模型AAT和AdvAAT在对抗干扰下更稳健，并在多个数据集上超越了最先进的归因鲁棒性方法。
积分梯度正则化：提升对抗稳健性的新思路
研究提出积分梯度正则化（IGR）方法，通过最大化自然归因与扰动归因之间的余弦相似度来获得稳健的模型归因，从而增强模型的对抗稳健性。在不同模型和数据集上的实验验证了该方法的有效性。这为提升归因鲁棒性提供了新的正则化视角，并探索了特征归因法的泛化能力。
忠实度范式下的新评估视角：可靠性与完备性
在“忠实度”范式内，研究提出了可靠性和完备性两个新视角，分别评估特征是否真正预测以及归因结果是否完整，并基于数学基础提供可计算的定量度量。这些指标应用于主流归因方法，为分析和比较特征归因方法提供了新视角，有助于推动可解释性评估的标准化。
Q&A
FAR范式的主要目标是什么？
FAR范式的主要目标是通过最小化属性映射的最大差异来训练模型的鲁棒属性。
积分梯度正则化(IGR)方法是如何增强模型的对抗性的？
IGR方法通过最大化自然和扰动归因之间的余弦相似度来增强模型的对抗性。
研究中提出了哪些新的评估方案来衡量特征归因的效果？
研究提出了三种新的评估方案来衡量影响深度神经网络决策的图像区域。
该研究如何提高深度神经网络的归因鲁棒性？
研究通过引入新的正则器来保护模型归因图免受攻击，从而提高归因鲁棒性。
忠实度范式在研究中被如何定义和应用？
忠实度范式被定义为可靠性和完备性两个新视角，用于评估特征是否真正预测以及归因结果是否完整。
该研究对特征归因法的泛化能力进行了哪些探索？
研究检验了特征归因法在不同深度学习架构模型间的泛化能力，并探索了归一化特征解释方法的潜力。
