图讨论：一种灵活可靠的大语言模型推理框架
内容提要
本文提出了结合大型语言模型（LLMs）与知识图谱（KG）的创新方法，以提高自然语言问答的准确性和可解释性。通过KnowledgeNavigator和ReasoningLM框架，研究解决了LLMs在复杂推理中的幻觉问题，并创建了支持常识推理的新KGQA数据集。实验结果显示，这些方法在多个基准测试中表现优异，显著提升了推理能力。
延伸解读
知识图谱增强LLM推理的动机
文章指出，大型语言模型在需要长逻辑链或复杂推理的场景中容易产生幻觉和知识限制。为此，研究者提出结合知识图谱来增强推理，例如KnowledgeNavigator通过检索外部知识并构建有效提示，指导LLM的推理过程。这种方法旨在提高答案的准确性和可解释性，并在多个公开基准测试中表现优异。
提升KGQA推理能力的技术路径
文章介绍了多种提升知识图谱问答推理能力的技术。ReasoningLM直接支持子图推理，超越了现有最先进模型；LGOT将复杂逻辑查询拆解为子问题，结合知识图谱推理和LLM共同解答，性能比ChatGPT提高20%；Graph-CoT通过迭代推理整合LLM与图，减少对LLM的依赖。这些方法从不同角度优化了推理过程。
面向长尾实体的常识推理数据集
文章提到创建了一个新的KGQA数据集，支持常识推理并专注于长尾实体，这些实体是大语言模型容易产生错误信息的对象。该数据集包含问题回答和声明验证两个子任务，对基于LLM的方法产生了显著的幻觉问题，为未来常识KGQA研究铺平了道路，旨在提供关于长尾实体的准确和可信的答案。
图结构化表示与对话问答
文章提出了一种在对话中理解问题并从不同来源（如文本、知识图谱、表格和信息框）中进行推理的说话式问答任务。该方法利用图结构化表示，通过最小化交叉熵直接将图嵌入到大型语言模型中，并维护存储模块追踪和更新过去的证据。在ConvMix基准测试中，图嵌入增强了LLM的推理能力，存储模块则提供了对噪声和检索错误的鲁棒性。
Q&A
KnowledgeNavigator框架的主要功能是什么？
KnowledgeNavigator框架通过高效检索外部知识，解决LLM在复杂推理中的幻觉和知识限制问题。
ReasoningLM与其他模型相比有什么优势？
ReasoningLM是一个更强大的预训练语言模型，直接支持KGQA的子图推理，超越了现有的最先进模型。
KGQA数据集的特点是什么？
KGQA数据集支持常识推理，专注于长尾实体，旨在提供准确、可信的答案。
LGOT方法是如何提高推理性能的？
LGOT方法通过将复杂逻辑查询拆解为易答子问题，并结合知识图谱推理与LLMs共同解答，从而提高性能。
Graph-CoT框架的作用是什么？
Graph-CoT框架结合思维链和PageRank的子图检索方法，优化了基于LLM的管道，减少对LLM的依赖。
LinkQ系统如何简化知识图谱查询？
LinkQ系统利用LLMs构建查询，使用户能够轻松获取有价值的信息，并进行探索性和确认性数据分析。
