视觉去幻化指令生成
内容提要
该文综述多模态大模型幻觉问题，涵盖视觉问答、图像描述与数据到文本生成中的对象、关系、属性幻觉检测与缓解，并提出M-HalDetect数据集、细粒度偏好优化、自信度分数、变分贝叶斯训练、文本评论家及强化学习等方法，以减少幻觉、提升忠实度，在多项基准上优于基线。
延伸解读
幻觉检测与缓解的技术路线
文章综述了多模态大模型幻觉问题的多种检测与缓解方法。检测方面，M-HalDetect数据集为训练和评估幻觉检测模型提供了基准；缓解方面，细粒度直接偏好优化和拒绝抽样能降低幻觉率，自信度分数与变分贝叶斯训练框架可防止数据到文本生成中不受支持的文本，文本评论家结合生成器概率输出能评估输入与生成文本的匹配度，强化学习则用于处理图像字幕中幻觉的序列级性质。这些方法在多项基准上优于基线。
评估基准与性能提升
文章提到RAH-Bench基准将幻觉分为对象、关系和属性三种类型，用于评估模型减少幻觉的效果。与原始LLaVA相比，采用更详细视觉注释和更具区分性视觉模型的方法在该基准下实现了+8.4%的改进，并在其他模型上取得广泛性能提升。这表明针对性的视觉增强和细粒度评估能有效推动模型忠实度的进步。
跨任务幻觉问题的普遍性
文章涵盖的幻觉问题不仅出现在视觉问答和图像描述中，也存在于数据到文本生成以及医学问答系统。例如，在数据到文本生成中，通过自信度分数和变分贝叶斯训练可提升对原始数据的忠实度；在医学问答中，交互自我反思方法在减少幻觉方面优于基线。这说明幻觉是多模态生成任务的共性问题，需要跨领域的方法创新。
Q&A
多模态大模型中的幻觉问题主要涉及哪些方面？
多模态大模型中的幻觉问题主要涉及视觉问答、图像描述和数据到文本生成中的对象幻觉、关系幻觉和属性幻觉。
有哪些方法可以检测多模态大模型中的幻觉？
检测幻觉的方法包括使用M-HalDetect数据集进行训练和评估，以及利用对比损失微调预训练模型来检测虚假指令。
如何减少视觉问答任务中的幻觉？
可以通过细粒度直接偏好优化和拒绝抽样方法来减少视觉问答任务中的幻觉率。
在数据到文本生成中，如何防止生成不受原数据支持的文本？
可以引入自信度分数和变分贝叶斯训练框架，以防止生成不受原数据支持的文本。
MOCHa方法是如何处理图像字幕中的幻觉的？
MOCHa方法通过使用强化学习来处理图像字幕中幻觉的序列级性质，在不需要强监督的情况下共同优化字幕的准确性和逻辑一致性。
文本评论家方法在减轻幻觉方面有什么作用？
文本评论家方法通过将生成器语言模型的概率输出与文本评论家分类器的输出结合，评估输入数据与生成文本的匹配程度，从而减轻神经数据到文本生成中的文字幻觉。
