💡
原文中文，约5600字，阅读约需14分钟。
📝
内容提要
本文讨论了幻觉的定义和分类，引用了Ziwei Ji的定义，幻觉文本的特点是流畅但背景知识错误。幻觉可分为内在幻觉和外在幻觉，以及事实性幻觉和忠实性幻觉。一些论文还讨论了幻觉与正确性和事实性的关系。
🎯
关键要点
-
幻觉的定义尚无一致共识，Ziwei Ji 提出的定义较为清晰。
-
幻觉可分为内在幻觉和外在幻觉，以及事实性幻觉和忠实性幻觉。
-
幻觉文本特点是流畅但背景知识错误，生成内容可能无意义或不忠实于源内容。
-
在不同任务中，源内容的定义有所不同，如摘要、翻译和多轮对话等。
-
忠实性和事实性在幻觉文献中常被提及，但概念使用混乱，需明确区分。
-
内在幻觉指生成文本与源内容矛盾，外在幻觉指生成与源内容无关的内容。
-
Yue Zhang 等人将幻觉分为输入冲突幻觉、上下文冲突幻觉和事实冲突幻觉。
-
Lei Huang 等人提出的二级幻觉分类包括事实性幻觉和忠实性幻觉，但存在一些混淆。
-
Ayush Agrawal 等人定义幻觉为无法在训练数据中找到依据的杜撰文本，强调了 groundedness 的重要性。
➡️
