关于激活规则的 GNN 可解释性研究
内容提要
本文介绍了一种名为XGNN的方法，通过训练图生成器来解释图神经网络（GNN）的工作原理。该方法将图形生成视为强化学习任务，利用GNN的信息提升生成器性能。此外，研究探讨了如何通过大规模背景知识和符号推理方法，为神经元激活提供有意义的解释，从而增强深度学习系统的可解释性和透明性。
延伸解读
XGNN 的强化学习思路
XGNN 将图生成视为强化学习任务，利用已训练 GNN 的信息，通过策略梯度方法训练图生成器。这种方法旨在从模型层面解释 GNN 的工作机制，帮助研究者理解和验证 GNN 的预测结果，并可能基于生成的图改进 GNN 性能。
神经元激活的符号解释
针对隐藏神经元激活的解释难题，有研究利用约 200 万个类别的维基百科概念层次结构作为背景知识，结合 OWL 推理或概念归纳等符号推理方法，自动为卷积神经网络密集层的个别神经元生成有意义的类别表达式，从而提升深度学习系统的透明性。
GNN 神经元作为概念探测器
通过研究 GNN 中个别神经元的行为，有工作提出新的度量方法和全局解释方法，证明 GNN 神经元在节点度和邻域属性等逻辑组合概念上具有良好的对齐性。这有助于将 GNN 转换为易于理解的概念级别，提高模型的解释性和透明性。
可解释性技术的多样发展
文章还提及了多种 GNN 可解释性技术，包括对现有方法的综述与分类、从逻辑表达式角度的理论分析、以及 GNN-LRP 等高阶解释方法。这些工作从不同角度推动了对 GNN 决策的理解，并探讨了评估指标和未来方向。
Q&A
XGNN方法的主要目标是什么？
XGNN方法的主要目标是通过训练图生成器来解释图神经网络（GNN）的工作原理。
如何利用GNN的信息提升图生成器的性能？
通过将图形生成视为强化学习任务，并利用训练的GNN信息对图形生成器进行策略梯度方法的训练。
研究中如何解释隐藏神经元的激活？
研究通过使用大规模背景知识和符号推理方法，为隐藏神经元的激活提供有意义的解释。
GNN神经元在模型中的作用是什么？
GNN神经元充当概念探测器，具有良好的对齐性，从而提高模型的解释性和透明性。
使用维基百科概念层次结构的目的是什么？
使用维基百科的概念层次结构是为了自动为卷积神经网络的个别神经元附加有意义的类别表达式作为解释。
该研究对深度学习系统的可解释性有什么贡献？
该研究通过提供有意义的解释，增强了深度学习系统的可解释性和透明性，帮助理解系统内部的决策过程。
