图感知同构注意力在变换器中的自适应动态

本研究解决了传统变换器模型中缺乏图结构感知的不足，提出了一种将图神经网络与语言建模相结合的新方法——图感知同构注意力。研究表明，该方法通过引入稀疏图同构网络（GIN）和主邻域聚合（PNA）策略，可以有效捕捉复杂的依赖关系，显著提高学习性能及模型的适应性，对生物信息学和材料科学等领域的应用具有重要影响。