通过图消息增强统一图对比学习
内容提要
本文综述图对比学习(GraphCL)及图数据增强研究。GraphCL框架通过图增强实现无监督表示学习,具有良好泛化性、可迁移性和鲁棒性。后续工作提出任务感知增强、基于节点中心性与属性的自适应增强、对抗性增强、GAug框架、生成对抗对比网络GACN、超图对比学习HyperGCL、少样本异常检测FMGAD、可学习增强器MEGA及半监督异质图方法HG-MDA,均在节点分类等任务上优于基线。
延伸解读
图增强策略的演进:从通用到自适应
文章梳理了图对比学习中数据增强策略的发展脉络。早期GraphCL采用域不可知的通用增强,后续工作则转向任务感知和自适应增强,例如基于节点中心性与属性的策略、对抗性增强以及可学习的增强器MEGA。这种演进表明,增强策略正从固定规则向数据驱动和任务特定方向细化,以更好地保留图的内在结构和属性信息。
生成对抗网络为图对比学习提供高质量视图
GACN将生成对抗网络引入图对比学习,通过学习图的视图分布来生成增强视图,实验证实其优于十二种基准方法。值得注意的是,GACN生成的视图符合在线网络中著名的优先连接规则,这为理解对比学习所捕获的结构特性提供了有趣线索。生成式方法可能成为提升增强视图质量的有效途径。
对比学习向超图与少样本场景扩展
HyperGCL将对比学习应用于超图,利用领域知识指导的虚构方案和数据驱动的超图生成模型构建对比视图,提升了超图表示学习的鲁棒性和公平性。FMGAD则针对少样本图异常检测,通过自监督对比学习捕捉视图内和视图间的结构表示,并结合消息增强重构模块利用少样本标签。这些工作显示图对比学习正从普通图向更复杂结构和低资源场景延伸。
半监督异质图方法面向实际应用
HG-MDA针对半监督异质图学习,通过数据增强、节点和拓扑增强处理稀疏数据下的信息异质性问题,并采用基于元关系的关注机制和三角形边添加、删除解决负曲率问题。该方法应用于互联网金融场景的用户识别任务,取得了优于当前SOTA模型的效果,体现了图对比学习在工业场景中的落地潜力。
Q&A
GraphCL框架的核心思想是什么?
GraphCL是一个图对比学习框架,通过图增强等方式对图数据进行无监督学习来学习表示。即使不使用复杂的GNN架构,它也能生成具有良好通用性、可迁移性和鲁棒性的图表示。
图对比学习中常用的数据增强策略有哪些?
文章提到了多种增强策略:任务感知增强、基于节点中心性和属性的自适应增强、对抗性增强、GAug框架(使用神经边缘预测器)、生成对抗对比网络GACN(通过GAN学习视图分布)、可学习增强器MEGA等。
GAug框架如何提升图神经网络性能?
GAug是一个图数据增强框架,通过神经边缘预测器有效地进行数据增强,从而提高节点分类性能。实验表明,GAug适用于多种基准数据集和架构,能提升GNN的性能。
GACN如何生成高质量的增强视图?
GACN是一个生成对抗性对比学习网络,通过引入生成对抗网络(GAN)来学习图的视图分布,从而为图对比学习生成高质量的增强视图。实验证实GACN优于十二种最先进的基准方法,并且生成的视图符合在线网络中的优先连接规则。
HyperGCL方法主要解决什么问题?
HyperGCL旨在改善低标签环境下超图神经网络的泛化性能。它通过应用对比学习方法构建超图的对比视图,包括领域知识指导的虚构方案和数据驱动的超图生成模型,从而提高超图表示学习的鲁棒性和公平性。
FMGAD模型在少样本图异常检测中有什么特点?
FMGAD是一种少样本图异常检测模型,利用自监督对比学习策略在视图内和视图间捕捉内在和可传递的结构表示,并借助深度图神经网络消息增强重构模块利用少样本标签信息,使其传播到更深的未标记节点。在六个真实数据集上,FMGAD在人工注入异常或领域有机异常情况下均优于最先进方法。
MEGA如何改进图对比学习的特征表示?
MEGA通过可学习的图形增强器生成具有均匀性和信息性的图形增强,从而有效提高自我监督学习任务中图对比学习方法的特征表示能力。多个基准数据集的实验证明了其优越性。
HG-MDA方法如何处理异质图数据?
HG-MDA是一种半监督异质图学习方法,通过数据增强、节点和拓扑增强等策略处理稀疏数据场景下异质图的信息异质性问题。它采用基于元关系的关注机制和三角形边添加、删除等方式解决负曲率问题,并在互联网金融场景下的用户识别任务中取得了比当前SOTA模型更好的效果。