利用对比学习提升令牌化图变换器中节点表示

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

研究人员提出了一种名为GCFormer的新型图形变压器模型,通过混合令牌生成器捕捉多样性图形信息,并使用基于变压器的骨干结构学习节点表示。GCFormer引入对比学习提高节点表示质量,在节点分类方面优于传统图神经网络和图形变压器。

🎯

关键要点

  • 研究人员提出了一种名为GCFormer的新型图形变压器模型。
  • GCFormer使用混合令牌生成器捕捉多样性图形信息的两种类型的令牌序列。
  • 该模型采用定制的基于变压器的骨干结构学习有意义的节点表示。
  • GCFormer引入对比学习,从正负令牌序列中提取有价值的信息。
  • 对比学习提高了学习到的节点表示的质量。
  • 大量实验结果表明,GCFormer在节点分类方面优于传统图神经网络和图形变压器。
➡️

继续阅读