数据归因的对抗攻击

BriefGPT - AI 论文速递 · 2024-09-09T00:00:00Z

机器学习模型的可解释性对于安全关键应用很重要。最近的研究发现归因方法存在脆弱性，提出了改进方法。研究发现现有的鲁棒性度量指标过度惩罚本地归因偏移，归因也可能集中在一个小区域。为了解决这些问题，提出了一些简单的方法来加强度量指标和归因方法。对模型训练的研究发现，对抗性训练的模型在较小的数据集上具有更鲁棒的归因，但在较大的数据集中，这种优势消失了。