利用对比学习提升令牌化图变换器中节点表示
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
研究人员提出了一种名为GCFormer的新型图形变压器模型,通过混合令牌生成器捕捉多样性图形信息,并使用基于变压器的骨干结构学习节点表示。GCFormer引入对比学习提高节点表示质量,在节点分类方面优于传统图神经网络和图形变压器。
🎯
关键要点
- 研究人员提出了一种名为GCFormer的新型图形变压器模型。
- GCFormer使用混合令牌生成器捕捉多样性图形信息的两种类型的令牌序列。
- 该模型采用定制的基于变压器的骨干结构学习有意义的节点表示。
- GCFormer引入对比学习,从正负令牌序列中提取有价值的信息。
- 对比学习提高了学习到的节点表示的质量。
- 大量实验结果表明,GCFormer在节点分类方面优于传统图神经网络和图形变压器。
➡️