通过多智能体辩论实现忠实可解释的事实核查
内容提要
本文综述大语言模型在事实核查与自我解释方面的研究。xLLM框架通过评估器和迭代优化提升解释忠实度，多模型辩论可改善推理并减少幻觉。实验表明，LLM能提高事实核查效率，但解释错误易致用户过度依赖，高风险场景不宜替代人工。自洽性检查显示解释忠实度因任务和模型而异。LLM在多数事实核查任务中媲美小模型，但中文验证存在语言不一致和虚构问题。GPT-3.5事实性输出不足25%，经重新训练可作事实验证器。
延伸解读
多智能体辩论如何提升事实核查可靠性
文章指出，多模型辩论能改善推理并减少幻觉，尤其在数学和策略推理方面。这种方法让多个语言模型实例反复辩论，最终达成共识答案，从而缓解虚假答案问题。但辩论效果依赖模型能力，且在高风险场景中仍需谨慎，因为解释错误可能导致用户过度依赖。
解释忠实度：任务与模型的双重依赖
自洽性检查显示，解释忠实度因任务和模型而异。例如，情感分类中，Llama2的反事实解释、Mistral的重要性度量和Falcon 40B的删除更忠实。这意味着没有通用最优模型，选择解释方法需结合具体任务和模型特性，提示变体下结果稳健。
LLM作为事实核查器的局限与潜力
LLM在多数事实核查任务中媲美小模型，但中文验证存在语言不一致和虚构问题。GPT-3.5事实性输出不足25%，经重新训练可作事实验证器，甚至FLAN-T5-11B表现更佳。然而，准确性不一致，依赖高质量证据，鲁棒性和泛化能力不足，需进一步研究。
Q&A
xLLM框架是如何提高大型语言模型生成解释的忠实度的？
xLLM框架通过评估器和迭代优化过程来最大化生成解释的忠实度分数，实验证明可以显著提高生成解释的忠实度。
多智能体辩论如何改善大型语言模型的推理能力？
通过多个语言模型实例的反复辩论和推理过程，以达成一个共同的最终答案，从而改善语言响应的表现，特别是在数学和策略推理方面，减少了虚假答案和幻觉现象。
大型语言模型在事实核查中可能带来哪些风险？
大型语言模型虽然能提高事实核查的效率，但在解释错误的情况下容易让用户过分依赖，因此在高风险环境中不宜将其作为阅读检索内容的可靠替代品。
大型语言模型在事实核查任务中的表现如何？
大型语言模型在大多数场景中取得了与其他小型模型相媲美的性能，但在处理中文事实验证和整个事实检查流程中遇到了语言不一致和虚构的挑战。
大型语言模型作为事实验证器的效果如何？
大型语言模型可以被重新用作有效的事实验证器，与人类判断具有强相关性，至少在维基百科领域。最不事实生成器FLAN-T5-11B表现最佳作为事实验证器，甚至超过了像GPT3.5和ChatGPT这样更有能力的大型语言模型。
自洽性检查如何用于测量大型语言模型自我解释的忠实度？
利用自洽性检查作为一种忠实度测量，将其应用于大型语言模型自我解释的三种类型，即反事实解释、重要性度量和删除。通过不同任务和模型，发现忠实度是任务和模型相关的，例如对于情感分类，Llama2的反事实解释、Mistral的重要性度量和Falcon 40B的删除是更加忠实的。
