基于大型语言模型的多角度知识图谱补全方法改进
内容提要
本文综述利用大语言模型进行知识图谱补全的研究，包括KICGPT结合知识提示解决长尾问题、结构感知推理框架将图谱结构嵌入大模型、KG-LLM将三元组视为文本序列并微调小模型优于GPT-4，以及联合完成与对齐、多语言知识蒸馏等方法，在WN18RR、FB15K237等数据集上取得领先效果。
延伸解读
长尾问题的解决思路
KICGPT通过知识提示解决长尾问题，无需额外训练和微调。长尾问题指知识图谱中低频实体和关系难以补全，传统方法依赖大量训练数据。KICGPT利用大语言模型的泛化能力，通过提示注入知识，在低资源条件下有效推理，为长尾补全提供了新方向。
结构信息与文本信息的融合
结构感知推理框架将知识图谱的结构信息嵌入大语言模型，提升知识推理能力。实验证明引入结构信息能改进LLM的推理效果。另一项研究将节点邻域作为附加信息，提高了预测效果，并指出更有效的邻域选择可显著改进KGC。这表明结构信息对补全至关重要。
小模型微调优于大模型
KG-LLM将三元组视为文本序列，利用实体和关系描述作为提示进行预测。实验发现，微调相对较小的模型（如LLaMA-7B、ChatGLM-6B）在知识图谱补全任务上优于ChatGPT和GPT-4。这提示在特定领域，针对性微调小模型可能比通用大模型更有效。
多语言与联合学习的进展
CKGC-CKD通过关系感知图卷积网络和相互知识蒸馏，整合不同知识图谱的集体知识，缓解个体不完整性，在多语言数据集上超越先进模型。联合完成与对齐模型利用结构不一致性降低机制，在多语言知识图谱对齐和完成任务上取得最佳结果。这些方法展示了多语言知识迁移的潜力。
Q&A
KICGPT 是如何利用大语言模型进行知识图谱补全的？
KICGPT 整合了大型语言模型和三元组为基础的知识图谱补全方法，通过使用知识提示来解决长尾问题并改进效率，无需额外的训练和微调。
结构感知推理框架如何提升大语言模型的知识推理能力？
该框架将知识图谱中的结构信息嵌入到大型语言模型中，通过实验证明引入结构信息可以改进大语言模型的知识推理能力。
KG-LLM 框架在知识图谱补全任务中有什么创新？
KG-LLM 将知识图谱中的三元组视为文本序列，利用实体和关系描述作为提示，并利用生成的响应进行预测。实验证明，微调相对较小的模型（如 LLaMA-7B、ChatGLM-6B）优于最新的 ChatGPT 和 GPT-4。
有哪些方法可以联合完成和对齐知识图谱？
本文提出了一种联合完成和对齐知识图谱的模型，使用关系感知图神经网络编码多跳邻域结构，并利用结构不一致性降低机制将完成信息融入对齐组件，采用对齐种子扩展和三元组转移机制，在多语言知识图谱对齐和完成任务上取得了最佳结果。
多语言知识蒸馏在知识图谱补全中是如何应用的？
CKGC-CKD 方法通过使用关系感知图卷积网络编码模型在集成的知识图谱和各自的知识图谱上进行训练，以最大程度地利用来自不同知识图谱的集体知识，从而缓解个体知识图谱的不完整性，并通过相互知识蒸馏机制进行知识传递，在多语言数据集上取得了比所有先进模型更好的知识图谱完成结果。
基于大语言模型的知识图谱补全方法在哪些数据集上取得了领先效果？
这些方法在 WN18RR 和 FB15K237 等数据集上取得了领先效果。
