局部无关视频解释：基于移除的解释在视频中的适用性研究
内容提要
该文综述多项可解释人工智能研究：将因果编码进数据以提升解释可信度；发现低真实性解释会降低用户表现，糟糕解释比无解释更糟；GLocalX通过汇总局部解释构建简单可解释模型；提出基于删除的解释框架以统一26种方法；GALE聚合特征影响以提供全局洞见；归纳推理实现模型无关解释；发布视觉解释基准及评估流程；LIMASE用Shapley值快速提供局部与全局解释；LUX基于规则生成事实、反事实和视觉解释，优于LORE、EXPLAIN和Anchor。
延伸解读
解释质量比有无更重要
文章指出，低真实性的解释会显著降低用户表现，甚至比没有解释更糟。这意味着在实际应用中，提供解释前必须评估其真实性，否则可能适得其反。对于可解释AI系统的设计者，确保解释准确易懂应优先于单纯提供解释。
从局部到全局的解释路径
GLocalX通过汇总局部解释来构建简单可解释模型，GALE则聚合特征影响以提供全局洞见。这些方法表明，局部解释可以组合成全局理解，帮助用户在复杂高维数据中把握模型整体行为，而无需直接解释黑匣子。
统一框架与基准推动比较
基于删除的解释框架统一了26种方法，视觉解释基准提供了数据集和评估流程。这些工作让不同解释技术可以在共同基础上比较，有助于研究者识别优劣，也提醒实践者选择解释工具时需参考标准化评估结果。
规则与Shapley值的实用进展
LUX基于规则生成事实、反事实和视觉解释，在简单性、保真度上优于LORE等方法；LIMASE用Shapley值快速提供局部和全局解释。这些进展显示，解释方法正朝着更高效、更易理解的方向发展，但实际部署仍需考虑计算成本和场景适配。
Q&A
低真实性的解释对用户表现有什么影响？
低真实性的解释与准确的解释和没有解释的系统相比，会显著降低用户的性能和协议。糟糕的解释有时比没有解释更糟。
GLocalX 是如何构建可解释模型的？
GLocalX 通过汇总本地解释来解释部分理解黑匣子模型，从而学习精确而简单的可解释模型，以替代黑匣子模型。
基于删除的解释框架有什么作用？
该框架描述了三个方面的框架来统一 26 种已有的模型解释方法，帮助实践者更好地理解模型解释工具，并为未来的可解释性研究提供理论基础。
GALE 模型的主要目标是什么？
GALE 旨在提供有关模型全局决策过程的洞见，通过聚合方法更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。
LIMASE 方法有什么特点？
LIMASE 是一种局部可解释模型无关 Shap 说明法，使用 Shapley 值解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，并且与内核解释器相比计算更快。
LUX 模型能生成哪些类型的解释？
LUX 模型可以生成事实、反事实和视觉解释，通过修改决策树算法实现倾斜分割和与 SHAP 或 LIME 等特征重要性 XAI 方法的集成。
