本研究解决了大语言模型在理解和推理叙事一致性方面的不足，提出通过情节漏洞检测作为评估语言理解的新方法。我们开发了名为FlawedFictionsMaker的算法，能够系统地合成缺陷情节，并基于此构建评估基准FlawedFictions，结果表明现有先进语言模型在处理这些情节漏洞时表现不佳，且情节越长，表现越差。

本研究通过简化证据检索和利用结构化知识图谱，解决了自然语言处理中事实验证困难的问题，提高了效率和效果。

大型语言模型（LLMs）在各种自然语言处理任务上表现出色。然而，它们容易生成流畅但不真实的回复，即 “幻觉”。幻觉可能导致错误信息的传播，并在关键应用中造成伤害。减少幻觉具有挑战性，因为它们来源于嘈杂的数据、模型自信心过度、缺乏知识和生成过程等因素。最近的研究通过表示编辑和解码算法来解决这个问题，实现减少幻觉但不进行重大结构更改或重新训练。然而，这些方法要么隐式地在潜在空间中编辑 LLMs...

最近的语言模型在生成虚假文本方面存在问题，可能对人造成伤害。研究发现，这是固有的统计原因，与架构和数据质量无关。预训练模型可能需要后期处理以减轻幻觉。不过，预训练不会在引用和算术计算等事实上产生幻觉。

本文研究发现高不确定性模型会导致错误内容增加，提出一种解码策略来减少幻觉，通过在XSum数据集上的实验证明，该方法降低了幻觉的概率。

该研究提出了一种轻量级二元分类器来检测大规模视觉语言模型中的幻觉，并在四个最先进的模型上进行了评估。研究还分析了幻觉的原因和现有的缓解方法，并提出了改进的数据集和训练范式。

本文提出了自动细粒度幻觉检测任务和综合分类法。通过新的基准测试，研究结果显示ChatGPT和Llama 2-Chat的输出中有60%和75%的幻觉。研究者训练了FAVA来检测和纠正细粒度幻觉，FAVA在细粒度幻觉检测方面明显优于ChatGPT。FAVA的修改还提高了语言模型生成文本的准确性，导致了5-10%的FActScore改进。

该研究通过细致分类和度、方向及类别上的倾向进行幻视建模和缓解。提供了两个幻视方向（FM 和 SL）的全面理解，并将其进一步细分为内在和外在，分为温和、中度和令人担忧的三个严重程度，同时对幻视进行了六种类型的细致分类。提供了包含 75,000 个样本和人工注释的 HallucInation eLiciTation（HILT）数据集。提出了 Hallucination Vulnerability Index（HVI），可量化和评估语言模型在产生幻视方面的脆弱性，并作为人工智能相关政策制定的标准工具。

自然语言处理和大型语言模型取得进展，但存在幻觉问题。研究发现FLAN-T5-11B作为事实验证器表现最佳，超过GPT3.5和ChatGPT。研究为可信赖的生成模型提供见解。

该文章总结了ESWC 2023会议中的“Next 20 years”专题，探讨了未来语义网研究的新兴主题和方法。