WildHallucinations: 用真实世界的实体查询评估 LLM 中的长篇事实准确性
内容提要
本研究引入HalEval-Wild基准测试，评估大型语言模型（LLMs）在现实环境中产生幻觉的能力。通过分析用户查询和使用GPT-4模型，发现LLMs的事实性输出存在严重问题，GPT-3.5的准确率甚至不到25%。研究提出了一种新方法来检测幻觉，强调事实验证器的重要性，并探讨幻觉的来源及缓解策略，以提高LLMs的可靠性。
延伸解读
基准测试的现实意义
HalEval-Wild 通过收集真实用户与 LLM 的交互数据，并利用 GPT-4 和检索增强生成（RAG）合成参考答案，构建了更贴近实际使用场景的幻觉评估基准。这种基于真实查询的方法能更准确地反映模型在动态环境中的事实性表现，为后续改进提供可靠依据。
幻觉问题的严重程度
人工评估显示，即使是 GPT-3.5，其事实性输出准确率也不到 25%，表明当前 LLM 在事实准确性方面存在严重缺陷。这一结果凸显了事实验证器的必要性，以衡量和激励模型在事实性上的进步，避免误导性输出。
事实验证器的意外发现
研究发现，LLM 可被重新用作有效的事实验证器，且与人类判断在维基百科领域有强相关性。令人惊讶的是，事实生成能力较弱的 FLAN-T5-11B 在验证任务上表现最佳，甚至超过了 GPT-3.5 和 ChatGPT，这提示验证能力可能与生成能力并不完全正相关。
缓解策略与未来方向
研究系统探讨了幻觉检测、来源和缓解策略，并构建了 HalualEval 2.0 基准，设计了一种简单有效的检测方法。同时，研究还检验了一系列缓解技术，并分析了 LLM 对高质量证据的依赖及其在鲁棒性和泛化能力上的不足，为开发可信赖的生成模型提供了方向。
Q&A
HalEval-Wild基准测试的目的是什么？
HalEval-Wild基准测试旨在评估大型语言模型在现实环境中产生幻觉的能力。
GPT-3.5的事实性输出准确率是多少？
GPT-3.5的事实性输出准确率不到25%。
研究中提出了哪些幻觉检测方法？
研究提出了一种无参考、基于不确定性的幻觉检测方法，关注关键词和标记属性。
大型语言模型的幻觉问题有哪些潜在来源？
幻觉问题的潜在来源包括对高质量证据的依赖和模型的鲁棒性不足。
研究如何提高大型语言模型的可靠性？
研究通过设计幻觉检测方法和实施缓解技术来提高大型语言模型的可靠性。
研究中提到的幻觉排行榜有什么作用？
幻觉排行榜旨在定量衡量和比较每个模型产生幻觉的倾向，指导选择最可靠的模型。
