通过全局探索增强模型可解释性的局部归因
内容提要
本文探讨了基于放松的功能依赖概念的特征选择与归因方法，评估了多种归因技术的有效性。研究发现某些方法在优化时无法准确归属特征。提出了新的评估方法和图像归因算法，以提高模型可解释性，并通过实验验证了其优越性。同时，分析了Shapley值归因的解释误差，提出了改进现有方法的新概念。
延伸解读
归因方法评估的挑战
文章指出，即使经过优化，某些归因方法也无法准确归属特征，这凸显了评估归因方法有效性的重要性。作者在合成数据集上计算基本真实的归因，为评估提供了可靠基准，并发现部分方法会提供错误的解决方案。这提醒研究者和实践者，在选择归因方法时需谨慎验证，不能盲目信任优化后的结果。
图像归因的新视角
文章将图像归因重新建模为子模集选择问题，旨在用更少区域增强可解释性。通过构建新颖的子模函数，并引入信心、有效性、一致性和协作得分四个约束，该方法能发现更准确的细粒度解释区域。在Celeb-A、VGG-Face2和CUB-200-2011数据集上的实验证明了其优越性，为图像归因提供了新思路。
Shapley值归因的误差分析
文章将Shapley值归因的解释误差分解为观察偏差和结构偏差，并证明二者存在权衡关系。基于此，作者提出了过多信息和过少信息解释两个新概念，并对现有Shapley值归因方法进行了理论分析。这一框架有助于理解归因误差的来源，并为改进归因方法提供了理论指导。
高斯过程回归的归因优势
文章探讨了高斯过程回归（GPR）背景下的特征归因，并推导出解释性的闭式表达式。使用Integrated Gradients时，GPR模型的归因符合高斯过程分布，从而能量化因模型不确定性导致的归因不确定性。理论和实验表明，该方法比现有近似方法更准确且计算成本更低，展示了其多功能性和稳健性。
Q&A
什么是基于放松的功能依赖概念的特征选择方法？
基于放松的功能依赖概念的特征选择方法是一种正式化的特征选择和归因方法，通过计算合成数据集上的真实归因来评估特征的有效性。
文章中提到的Occlusion和Shapley值的模型无关实现有什么作用？
Occlusion和Shapley值的模型无关实现可以通过无限制的交互方式实现不同属性的解释，从而提高模型的性能。
如何评估可解释AI归因方法的有效性？
文章提出了一种新的评估方法，通过合成的分类模型及其衍生的地面实况解释来基准测试可解释AI归因方法，提供更深入的洞察。
Shapley值归因的解释误差是如何分析的？
Shapley值归因的解释误差被分解为观察偏差和结构偏差，并且证明了它们之间存在权衡关系。
高斯过程回归在特征归因中有什么优势？
高斯过程回归在特征归因中提供了灵活的非参数方法，并且能够导出解释性的闭式表达式，量化模型不确定性带来的归因不确定性。
文章中提出的图像归因算法是如何增强模型可解释性的？
该图像归因算法通过基于子模集选择问题，利用更少的区域来增强模型的可解释性，并引入多个约束来评估子集的重要性。
