基于谱视角的归纳图对齐指令:从图预训练到归纳微调之间的桥梁
💡
原文中文,约500字,阅读约需1分钟。
📝
内容提要
图神经网络 (GNN) 在学习图数据的语义方面具有很强的能力。最近,一种名为 “预训练、提示” 的新范式在利用较少监督数据将 GNNs 适应各种任务方面取得了有希望的结果。我们提出了一种新颖的基于结构的 GNN 提示方法,即 SAP,它在预训练和提示调整阶段都一致地利用了结构信息。我们的实验证明了 SAP 的有效性。此外,SAP 可以在同质和异质图上的更具挑战性的小样本场景中实现更好的性能。
🎯
关键要点
- 图神经网络 (GNN) 在学习图数据的语义方面具有强大能力。
- 新范式 '预训练、提示' 在利用少量监督数据适应 GNNs 任务方面取得了良好结果。
- 成功的原因在于预训练和任务导向的提示调整之间的一致性。
- 现有研究忽视了在预训练阶段利用图的结构信息来学习节点表示。
- 提出了一种新颖的基于结构的 GNN 提示方法 SAP,利用结构信息进行一致性调整。
- SAP 通过双视图对比学习对齐节点属性和图结构的潜在语义空间。
- SAP 在节点分类和图分类任务上经过大量实验验证了其有效性。
- SAP 在同质和异质图的小样本场景中表现出更好的性能。
➡️