GraSAME：通过图导引的自注意机制向预训练语言模型注入标记级结构信息

该论文提出了一种图形遮盖的预训练策略，显著提升了图到文本生成任务中的模型效果。

该方法在WebNLG+2020和EventNarrative数据集上取得了最新最好成果。

在低资源设置中，该方法表现出非常有效的结果。

研究了利用图形自监督训练来提高PLMs模型在AMR图结构上的结构意识。

介绍了两种图形自编码策略和四个任务，缩小了预训练和微调任务之间的差距。

实验结果表明该方法在AMR分析和AMR-to-text生成方面的优越性。

图形语言模型（GLM）结合了线性文本模型和图神经网络的优点，超越了基于LM和GNN的基线。

研究旨在提高图模型在零样本学习场景中的泛化能力，发展面向图结构知识的大型语言模型（LLMs）。

框架在监督和零样本图学习任务上评估，展示了优越的泛化能力，超过了最先进的基准模型。

分析了不同任务自适应预训练策略对图转文本生成中PLMs的影响，发现PLMs BART和T5实现了新的最先进结果。