大型语言模型中幻觉缓解技术的综合调查
这篇论文综述了 32 种技术，旨在减轻大型语言模型中的幻觉问题，其中包括检索增强生成、知识检索、CoNLI 和 CoVe 等方法，并提出了基于数据集利用、常见任务、反馈机制和检索器类型等参数的分类方法，以区分专门设计用于解决大型语言模型幻觉问题的各种方法。此外，还分析了这些技术中存在的挑战和局限性，为未来研究提供了坚实的基础。
该研究通过细致分类和度、方向及类别上的倾向进行幻视建模和缓解。提供了两个幻视方向（FM 和 SL）的全面理解，并将其进一步细分为内在和外在，分为温和、中度和令人担忧的三个严重程度，同时对幻视进行了六种类型的细致分类。提供了包含 75,000 个样本和人工注释的 HallucInation eLiciTation（HILT）数据集。提出了 Hallucination Vulnerability Index（HVI），可量化和评估语言模型在产生幻视方面的脆弱性，并作为人工智能相关政策制定的标准工具。
