几何去除和再训练（GOAR）：坐标不变可解释人工智能评估
内容提要
本文评估了 RemOve-And-Retrain (ROAR) 协议的可靠性，发现其性能指标不受决策函数信息影响，并提出了 DoRaR 特征归属方法，以提高黑盒模型的透明度。同时，研究提出了 ART 训练方法，显著增强了解释的鲁棒性，并在多个数据集上取得最佳性能。此外，介绍了 eXplanation-based Counterfactual Retraining (XCR) 方法，旨在优化黑盒模型并解决解释性人工智能的问题。
延伸解读
ROAR 指标可靠性警示
文章指出 ROAR 协议的性能指标不受决策函数信息影响，类似现象在 ROAD 中也存在，并呈现一致的模糊偏见趋势。这意味着仅依赖 ROAR 评估可解释性方法可能产生误导，读者需警惕其指标缺陷，在比较不同方法时考虑更全面的评估标准。
DoRaR 方法应对黑盒挑战
针对透明度受限的黑盒模型，DoRaR 特征归属方法在 MNIST、CIFAR10 及合成数据集上验证有效，能绕过上述问题，并训练出优于其他先进特征归属方法的特征选择器。这为黑盒场景下的特征归因提供了新思路，但需注意其泛化性仍需更多验证。
ART 提升解释鲁棒性
ART 训练方法通过减小图像空间相关性对模型解释鲁棒性的影响，在多个标准数据集上显著提升了解释鲁棒性，并在弱监督目标定位任务上达到新的最佳性能。这表明降低空间相关性是增强解释稳定性的有效途径，但实际部署时需权衡计算成本。
XCR 优化黑盒模型
XCR 方法基于解释的反事实重训练，通过提取特征重要性来优化黑盒模型，旨在解决解释性人工智能的分布外问题和社会不协调问题。在流行图像数据集和数据损坏基准上的实证研究证明了其有效性，为黑盒模型优化提供了新方向，但需关注其适用边界。
Q&A
RemOve-And-Retrain (ROAR) 协议的可靠性如何？
ROAR 协议的性能指标不受决策函数信息的影响，存在一致的模糊偏见趋势。
DoRaR 特征归属方法的主要优点是什么？
DoRaR 方法有效解决了黑盒模型的透明度问题，并在多个数据集上证明了其有效性。
ART 训练方法的作用是什么？
ART 训练方法显著提高了解释的鲁棒性，并在多个标准数据集上取得最佳性能。
eXplanation-based Counterfactual Retraining (XCR) 方法的目的是什么？
XCR 方法旨在优化黑盒模型，解决解释性人工智能中的 Out-of-Distribution 问题。
如何提高黑盒模型的透明度？
可以通过使用 DoRaR 特征归属方法来提高黑盒模型的透明度。
在弱监督目标定位任务中，ART 方法的表现如何？
ART 方法在弱监督目标定位任务上实现了新的最佳性能。
