ERD：一个提升 LLM 推理能力用于认知失调分类的框架
内容提要
研究发现大型语言模型在逻辑推理方面存在缺陷，导致反事实答案。为提升推理能力，提出多种策略并构建综合数据集进行评估。通过逻辑训练，验证了模型在不同任务上的有效性，尤其在知识图谱指导下的推理能力显著提高，为未来研究提供参考。
延伸解读
LLM逻辑推理的固有缺陷
文章指出，大型语言模型在逻辑推理方面存在缺陷，容易产生反事实答案。这并非个别现象，而是影响任务解决可靠性的核心问题。例如，在演绎推理任务中，模型表现有限，且与人类推理方式不同；在科学文档推理中，模型甚至会编造证据。这些发现提示，单纯扩大模型规模或调整提示格式可能无法根治推理偏差，需要针对性的逻辑训练或外部知识引导。
知识图谱协作提升推理可靠性
为弥补逻辑推理缺陷，文章强调利用知识图谱与LLM协作训练。通过迭代探索和选择性检索任务相关的知识子图，模型能更可靠地进行基于知识的推理，并明确阐述推理过程。实验显示，该方法在多个数据集上显著改进，尤其在QALD10上比最佳基线提升超过10%。这表明，将结构化知识融入推理过程，是提升LLM复杂问题解决能力的有效路径。
评估与训练策略的多样性
文章构建了综合数据集LMM-LR，用于评估和预训练逻辑推理能力，并验证了逻辑训练的有效性和必要性。此外，还提及基于提示的学习、推理感知框架、多轮互动与自我反思学习、反复辩论等策略。这些方法从不同角度尝试提升推理表现，但文章也指出，LLM在科学文档推理中仍存在证据捏造风险，且预训练无法完全缓解。因此，实际应用中需结合具体任务选择策略，并警惕幻觉问题。
Q&A
大型语言模型在逻辑推理方面存在哪些缺陷？
大型语言模型在逻辑推理方面存在缺陷，导致其产生反事实的答案。
如何提升大型语言模型的推理能力？
通过多种策略和逻辑训练，可以提升大型语言模型的推理能力。
LMM-LR数据集的作用是什么？
LMM-LR数据集用于评估和预训练大型语言模型的逻辑推理能力。
知识图谱如何帮助大型语言模型的推理？
知识图谱通过协作训练方法，支持大型语言模型进行更可靠的基于知识的推理。
大型语言模型在科学文档推理中存在哪些风险？
大型语言模型在科学文档推理任务中存在证据捏造的风险。
如何通过反复辩论改善语言模型的表现？
通过多个语言模型实例的反复辩论和推理过程，可以改善语言响应的表现。
