在概率场景中生成整体和模型协调解释
内容提要
本文探讨了多种可解释人工智能（XAI）模型和框架，旨在提升人类与自主系统之间的理解与信任。研究内容包括生成自然语言解释、评估可解释性模型的标准，以及增强黑盒模型解释的鲁棒性。实验结果表明，这些方法在自然语言理解和分类决策中表现优异，推动了可解释性研究的发展。
延伸解读
从模型对接视角理解解释生成
文章提出将“解释”视为“模型对接”的标注模型，帮助解释者筛选有助于用户与代理之间建立共识的信息。这提示我们，解释的有效性不仅取决于内容本身，还取决于它能否弥合用户与系统之间的认知差距。在搜救等场景中，这种对接直接影响人机互信的建立。
评估解释质量的多重标准
文章介绍了评估可解释性模型的统一框架，指出不同研究群体对解释性评估存在重叠和语义错位，并提出了解释的可行性和可理解性标准。这意味着，评价一个解释的好坏不能只看表面合理性，还需考虑其是否可操作、是否易于理解，以及是否适用于具体任务。
鲁棒性成为解释生成的新焦点
针对现有算法在分布偏移下缺乏稳定性的问题，文章提出通过敌对训练生成稳健且高保真的黑盒模型解释，并首次尝试使解释对一类有实际意义的敌对扰动具有鲁棒性。实验表明，该方法在提高鲁棒性的同时，没有牺牲原始数据分布上的解释保真度。
不确定性量化提升解释可靠性
文章开发了评估GNNExplainer生成解释中不确定性的方法，通过学习因子图模型来量化解释的不确定性。结果表明，该方法可以可靠地估计解释中指定关系的不确定性。这为解释的可靠性提供了量化依据，有助于用户判断在多大程度上信任解释。
Q&A
可解释人工智能（XAI）模型的主要目标是什么？
可解释人工智能模型的主要目标是提升人类与自主系统之间的理解与信任。
文章中提到的生成式解释框架有什么特点？
生成式解释框架能够同时进行分类决策和生成细粒度解释，实验证明其生成的解释优于基线系统。
如何评估可解释性模型的有效性？
评估可解释性模型的有效性可以通过提出统一框架和可行性、可理解性的评估标准来实现。
文章中提到的INTERACTION框架有什么优势？
INTERACTION框架提供了两个步骤的术语解释生成方法，具有更好的性能和多样性。
如何增强黑盒模型解释的鲁棒性？
通过敌对训练的方法，可以生成稳健且高保真的黑盒模型解释，从而增强其鲁棒性。
可解释自然语言理解框架的训练方法是什么？
该框架使用人类注释的解释进行训练，并采用变分EM方法进行优化。
