本文综述了大型视觉语言模型(LVLMs)中的幻觉问题,分析了幻觉的概念、症状及根本原因,评估了现有的检测和缓解方法,并提出了新的评估框架和分类法,以提高模型的可靠性,探讨未来研究方向以应对虚假生成的挑战。
大型语言模型(LLM)在应用中取得成功,但虚假生成问题限制了其发展。研究综述了虚假生成的检测与减轻方法,提出了一种无参考的基于不确定性的检测方法,评估了幻觉表现,并引入了新基准和框架以提高检测有效性。通过多种模型和数据集,研究显示有效降低了幻觉比例,并在相关任务中取得了良好的准确率。
完成下面两步后,将自动完成登录并继续当前操作。