在保留解释的图扰动下的 PAC 可学习性
内容提要
该文综述图神经网络可解释性研究，涵盖合成数据生成、评估指标与解释呈现等问题，并探讨对抗攻击、对抗训练、反事实解释、因果分析及自解释框架等方法，提出改进建议与未来方向。
延伸解读
图神经网络可解释性研究的核心挑战
文章指出，图神经网络在决策过程中透明度不足，可解释性研究需解决三个关键问题：合成数据生成过程、评估指标以及解释的最终呈现。这些环节的缺陷可能导致解释不可靠，例如合成数据可能偏离真实分布，评估指标可能无法全面衡量解释质量，而呈现方式可能影响用户理解。实证研究进一步揭示了这些问题的意外后果，提醒研究者在设计解释方法时需系统考虑全流程。
对抗攻击与对抗训练对解释的影响
文章提到，图神经网络在测试时易受对抗攻击，通过边扰动可改变节点重要性。研究发现，在节点分类中，引入不同类别节点之间的边比移除同一类别节点之间的边影响更大。此外，对抗训练不仅能提升鲁棒性，还能提高可解释性，尤其在化学领域，能更好地提取与领域相关的见解。这表明对抗训练可能成为增强模型解释可靠性的实用手段。
反事实解释与因果分析的方法进展
针对解释的稳健性和忠实性，文章介绍了反事实解释和因果分析两种途径。反事实解释方法通过建模相似输入图的共同决策逻辑，生成对噪音稳健且符合人类直觉的解释。因果分析则从理论层面分析预测，并提出对齐嵌入算法以消除分布偏移对解释的影响，从而优化解释目标。这些方法有助于提升解释的可靠性和因果合理性。
自解释框架与未来方向
文章探讨了自解释图神经网络的新问题，提出了实现可解释节点分类的框架，通过可解释相似性模块找到未标记节点的K近邻标记节点，并在真实和合成数据集上验证。此外，还有研究提出使用代理图生成可解释子图，以及同时给出预测和解释的自解释框架。这些工作表明，自解释模型是未来重要方向，但需在评估指标和实际应用中进一步验证。
Q&A
图神经网络的可解释性研究主要面临哪些普遍问题？
该研究论文指出，图神经网络可解释性研究在三个主要领域存在普遍问题：合成数据生成过程、评估指标以及解释的最终呈现。
对抗攻击如何影响图神经网络在节点分类中的表现？
通过边扰动进行对抗攻击时，在节点分类中引入不同类别节点之间的边，相比于移除同一类别节点之间的边，具有更大的影响。
对抗训练如何提升图神经网络的可解释性？
通过一种新的度量标准评估解释方法对模型学习到的表征的利用效果，并证明在化学领域应用中，对抗训练可以更好地提取与领域相关的见解。
如何生成对噪音稳健且符合人类直觉的图神经网络反事实解释？
提出了一种新方法，明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释，从而生成对噪音稳健且符合人类直觉的反事实解释。
从因果关系角度如何优化图神经网络的解释？
从因果关系角度理论分析图神经网络的预测，并提出一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。
自解释图神经网络框架如何实现可解释的节点分类？
提出了新的框架，通过可解释的相似性模块找到每个未标记节点的K近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证，从而实现可解释的节点分类。
