OpenAI翁荔提出大模型「外在幻觉」：万字blog详解抵抗办法、产幻原因和检测方式
原文中文，约9800字，阅读约需24分钟。
📝
内容提要
OpenAI华人科学家翁荔提出了大模型「外在幻觉」问题，讨论了产生幻觉的原因、检测和抵抗方法。幻觉可能与预训练数据集和微调新知识有关，可以通过检索增强评估和基于归因的微调来减少。翁荔负责ChatGPT的开发和模型安全。
❓
Q&A
大模型的外在幻觉是什么？
外在幻觉是指模型输出的内容不基于预训练数据集，而是虚构的内容。
幻觉产生的主要原因有哪些？
幻觉产生的原因包括预训练数据集中的过时或错误信息，以及微调新知识的影响。
如何检测大模型的幻觉现象？
幻觉检测方法包括检索增强评估和基于采样的检测，使用维基百科作为事实性基础。
有哪些方法可以抵抗大模型的幻觉？
抵抗幻觉的方法包括检索外部知识、特殊采样方法和对齐微调。
翁荔在OpenAI的角色是什么？
翁荔是OpenAI的华人科学家，负责人工智能应用研究，参与ChatGPT的开发和模型安全。
上下文内幻觉与外在幻觉有什么区别？
上下文内幻觉是模型输出与上下文不一致，而外在幻觉是模型输出不基于预训练数据集。
🏷️
