让图表达自己：为 LLMs 编码结构化数据
内容提要
该文综述大语言模型处理图结构数据的研究，探讨将图结构信息融入节点分类、图预测等任务能否提升性能，并与图神经网络比较优劣。研究提出图嵌入与文本编码结合、图提示等方法，可降低推理成本并提升表现，同时指出模型理解图结构仍存局限，需进一步探索。
延伸解读
图推理任务中编码器选择的影响
文章指出，编码器选择对图推理任务性能有显著影响，正确选择编码器能够提升性能。这提示研究者和开发者在将LLMs应用于图数据时，需重视编码器的适配性，而非直接套用通用文本编码器。
LLMs与图神经网络的比较视角
通过将LLMs与专门的图神经网络进行对比，文章揭示了LLMs在图分析中的优势与局限。这种比较有助于明确LLMs的适用场景，例如在需要结合文本与图结构时可能更具灵活性，但在纯拓扑推理上可能不及GNN。
降低推理成本的实际路径
文章提到，整合图嵌入与文本编码技术可减少1-2个数量级的推理成本，同时达到先进性能。这对于实际部署具有参考价值，表明在资源受限环境下，优化编码策略可能比单纯扩大模型规模更有效。
当前模型理解图结构的局限
文章强调，LLMs在理解图结构和执行相关推理任务上仍存在局限，需要进一步研究。这意味着现有方法可能无法可靠处理复杂图数据，读者应关注模型在具体任务中的表现边界，避免过度依赖。
Q&A
大型语言模型处理图结构数据时，如何提升节点分类任务的性能？
研究探讨了将图结构信息纳入LLMs的节点分类任务，发现正确选择编码器可以提升预测性能。
大型语言模型在图预测任务中与图神经网络相比有哪些优势和局限？
通过实验评估LLMs在图预测任务中的性能，并与专门的图神经网络比较，发现LLMs能利用拓扑结构提高性能，但存在理解图结构和执行推理任务的局限性。
如何降低知识图谱自动补全的推理成本？
整合知识图谱的图嵌入和文本编码技术，可以提高自动补全性能，实现比文本编码方法减少1-2个数量级的推理成本，并达到最先进的性能。
有哪些提示方法可以提升大型语言模型解决图问题的能力？
NLGraph基准提出了两种基于指令的方法：Build-a-Graph Prompting和Algorithmic Prompting，在多个任务和设置中将LLMs的性能提升了3.07%到16.85%。
如何将结构化知识注入大型语言模型？
研究提出了一种将结构化知识注入LLMs的方法，通过在不同知识图谱数据上预训练，并在多个自然语言任务上比较性能，证明了该方法的有效性。
大型语言模型在理解图结构数据方面存在哪些局限性？
在十个不同任务中评估LLMs理解图数据的能力，发现模型仍存在理解图结构和执行相关推理任务的局限性，需要进一步研究加强图形处理能力。
