VideoHallucer：评估大型视频语言模型中的内在和外在幻觉
内容提要
本文探讨了多模态大型语言模型（MLLMs）中的幻觉问题，提出了幻觉的分类和评估框架，包括幻觉脆弱性指数（HVI）和HalluQA基准。研究分析了幻觉的类型、原因及其影响，旨在提高模型的可靠性，并为未来研究提供指导。
延伸解读
幻觉评估的细粒度分类与量化工具
文章提出了对幻觉进行细粒度建模的方法，包括两个幻觉方向（FM和SL），并进一步细分为内在和外在，以及温和、中度和令人担忧三个严重程度。同时，文章还提出了幻觉脆弱性指数（HVI），用于量化和评估语言模型在产生幻觉方面的脆弱性，并可作为人工智能相关政策制定的标准工具。这些分类和量化工具为系统化评估和缓解幻觉提供了基础。
HalluQA基准：中文大模型幻觉的挑战性测试
文章建立了HalluQA基准，包含450个对抗性问题，涵盖多个领域并考虑了中国历史文化、习俗和社会现象。基于GLM-130B和ChatGPT构建对抗样本，并使用GPT-4进行自动评估。对24个大型语言模型的实验显示，18个模型的非幻觉率低于50%，表明HalluQA具有很高的挑战性。该基准为衡量中文大模型幻觉提供了专门工具。
幻觉类型与模型差异分析
文章分析了幻觉的不同类型，包括物体幻觉、属性幻觉、多模态冲突幻觉和反对常识幻觉。通过实验，作者探讨了不同类型模型中主要类型的幻觉及其原因，并讨论了不同模型应优先考虑哪些类型的幻觉。这些分析有助于理解幻觉产生的机制，并为针对性的缓解策略提供指导。
多模态幻觉研究的扩展与未来方向
文章还涉及了多模态大型语言模型中的幻觉问题，提出了包括事件妄想在内的细分分类，并介绍了医学领域的Med-HallMark基准和MediHallDetector。此外，文章从表示学习角度引入对比学习方法来减少幻觉，并提出了元评估基准MHaluBench和统一检测框架UNIHD。这些工作扩展了幻觉研究的范围，并为未来研究提供了方向。
Q&A
什么是幻觉脆弱性指数（HVI）？
幻觉脆弱性指数（HVI）是用于量化和评估语言模型在产生幻觉方面脆弱性的指标。
HalluQA基准的目的是什么？
HalluQA基准旨在衡量中文大型语言模型中的幻觉现象，包含450个对抗性问题。
多模态大型语言模型中幻觉的主要类型有哪些？
主要类型包括物体幻觉、属性幻觉、多模态冲突幻觉和反对常识幻觉。
研究中发现多少个大型语言模型的非幻觉率低于50%？
研究发现18个大型语言模型的非幻觉率低于50%。
本文对未来研究的方向有什么建议？
本文提出了对幻觉类型及其原因的分析，并建议未来研究应关注不同类型模型中的幻觉问题。
如何评估大型语言模型的幻觉现象？
可以通过HalluQA基准和幻觉脆弱性指数（HVI）来评估大型语言模型的幻觉现象。
