全球撒谎者：LLMs 随时间和地域的真实性
内容提要
该文综述大语言模型的事实性问题：幻觉导致非事实输出，GPT-3.5事实性不足25%。研究提出FactChecker框架、事实验证器及注释方案，发现模型可作验证器且与人类判断相关，但准确性受语言和主张真实性影响，需谨慎使用并加强评估与改进。
延伸解读
事实性不足的严峻现实
文章指出，即使是GPT-3.5，其事实性输出也不到25%，这意味着大部分生成内容可能包含非事实信息。这种高幻觉率提醒我们，在依赖LLM进行信息验证或内容创作时，必须保持警惕，不能盲目信任其输出。
LLM作为事实验证器的潜力与局限
研究发现，LLM可以被重新用作事实验证器，且与人类判断有强相关性，但准确性受查询语言和主张真实性的影响。有趣的是，较小的FLAN-T5-11B在验证任务上甚至超过了更大的模型，这表明模型大小并非决定验证能力的唯一因素。
自动事实核查框架的进展
FactChecker等自动化框架通过构建知识图谱和生成测试用例来评估LLM的事实准确性，并显示测试用例能有效提升模型的事实性。然而，现有工具在识别错误声明方面仍有困难，最佳F1仅为0.53，说明自动事实核查技术尚不成熟。
提升事实性的方向与挑战
文章提到，通过利用外部知识库或模型置信度进行微调，可以在无需人工标注的情况下提高生成正确性。但LLM在领域特定问题上仍面临知识遗忘、幻觉等挑战，未来需要多样化训练数据、增强透明度和可解释性，并引入伦理培训。
Q&A
什么是FactChecker框架？它如何揭示大语言模型的事实错误？
FactChecker是一种新型自动化测试框架，通过构建事实知识图谱、生成包括不同类型问题和正确答案的测试用例，并使用匹配策略评估大语言模型的响应准确性，从而揭示事实错误，并展示测试用例对提高模型事实准确性的有效性。
大语言模型在事实核查中的表现如何？
在配备上下文信息的情况下，LLMs表现出更强大的能力。GPT-4优于GPT-3，但准确性取决于查询语言和主张的真实性。虽然LLMs在事实核查方面显示出前景，但仍需谨慎使用，因为准确性不一致。
大语言模型的幻觉问题有多严重？
大型语言模型常常会出现“幻觉”，导致非事实性的输出。人工评估结果证实了这一严重的幻觉问题，显示即使是GPT-3.5的事实性输出不到25%。
大语言模型能否作为事实验证器？效果如何？
系统调查确认大型语言模型可以被重新用作有效的事实验证器，与人类判断具有强相关性，至少在维基百科领域。令人惊讶的是，最不事实生成器FLAN-T5-11B表现最佳作为事实验证器，甚至超过了像GPT3.5和ChatGPT这样更有能力的大型语言模型。
针对LLM输出的事实准确性注释，有哪些解决方案？
研究介绍了一种针对大型语言模型输出进行事实准确性注释的综合解决方案，包括多阶段的注释方案和注释工具的设计，以识别LLM输出中的可验证性和事实不一致性，并构建了三个层次粒度的开放领域文档级事实性基准。初步实验结果表明，已有工具在识别错误声明方面存在困难，最佳F1=0.53。
如何提高大语言模型的事实可靠性？
可以通过利用外部知识库的一致性或大模型的置信度，以及直接优化算法，在不需要人工标注的情况下对语言模型进行微调，明显提高生成候选项的正确性，并比对准确性进行了目标定向的RLHF和解码策略有显著改善。此外，建议对训练数据进行多样化，微调模型，提高透明度和可解释性，并引入伦理和公平性培训。
