本研究解决了大语言模型在理解和推理叙事一致性方面的不足，提出通过情节漏洞检测作为评估语言理解的新方法。我们开发了名为FlawedFictionsMaker的算法，能够系统地合成缺陷情节，并基于此构建评估基准FlawedFictions，结果表明现有先进语言模型在处理这些情节漏洞时表现不佳，且情节越长，表现越差。

本文综述了自然语言处理领域的自动事实核查研究，强调证据的重要性，并提出未来研究方向。介绍了多种模型和方法，包括基于神经语义匹配和图卷积网络，以及新数据集FactKG，旨在提高事实核查的准确性和可靠性。研究表明，丰富的结构信息和原始文档证据显著提升系统性能，有助于打击信息误传。

大型语言模型（LLMs）在各种自然语言处理任务上表现出色。然而，它们容易生成流畅但不真实的回复，即 “幻觉”。幻觉可能导致错误信息的传播，并在关键应用中造成伤害。减少幻觉具有挑战性，因为它们来源于嘈杂的数据、模型自信心过度、缺乏知识和生成过程等因素。最近的研究通过表示编辑和解码算法来解决这个问题，实现减少幻觉但不进行重大结构更改或重新训练。然而，这些方法要么隐式地在潜在空间中编辑 LLMs...

本研究探讨了深度神经模型在自然语言生成中产生虚假信息的原因，并提出了一种扩展的束搜索算法以减少虚假信息。研究表明，预测不确定性与虚假信息相关，认知不确定性更能指示虚假信息。通过分析生成的输入和输出，开发了分类器以区分幻觉与非幻觉生成，从而提升生成内容的可信度。

本文探讨神经机器翻译中的幻觉现象，提出多种检测和缓解方法，包括基于不确定性的检测、跨语言嵌入提高检测精度，以及基于置信度的同传框架。研究旨在构建更稳定的翻译系统，并发布相关数据集以支持未来研究。

该研究提出了一种轻量级二元分类器来检测大规模视觉语言模型中的幻觉，并在四个最先进的模型上进行了评估。研究还分析了幻觉的原因和现有的缓解方法，并提出了改进的数据集和训练范式。

本文提出了幻觉感知直接偏好优化（HA-DPO）策略，以解决大型语言模型中的幻觉问题。研究表明，应用该策略后，MiniGPT-4模型性能显著提升。文章综述了32种减轻幻觉的技术，分析了其挑战与局限性，并通过细粒度反馈和自我检测技术提高了模型的可靠性和可解释性。

该研究通过细致分类和度、方向及类别上的倾向进行幻视建模和缓解。提供了两个幻视方向（FM 和 SL）的全面理解，并将其进一步细分为内在和外在，分为温和、中度和令人担忧的三个严重程度，同时对幻视进行了六种类型的细致分类。提供了包含 75,000 个样本和人工注释的 HallucInation eLiciTation（HILT）数据集。提出了 Hallucination Vulnerability Index（HVI），可量化和评估语言模型在产生幻视方面的脆弱性，并作为人工智能相关政策制定的标准工具。

自然语言处理和大型语言模型取得进展，但存在幻觉问题。研究发现FLAN-T5-11B作为事实验证器表现最佳，超过GPT3.5和ChatGPT。研究为可信赖的生成模型提供见解。

该文章总结了ESWC 2023会议中的“Next 20 years”专题，探讨了未来语义网研究的新兴主题和方法。