语言模型产生幻觉但在事实验证中可能表现出色

本文探讨了大型语言模型的“幻觉”问题，即输出的非事实性内容。作者进行了人工评估，发现即使是GPT-3.5的事实性输出不到25%。文章提出了事实验证器的重要性，并发现FLAN-T5-11B表现最佳。同时，分析了大型语言模型对高质量证据的依赖以及在鲁棒性和泛化能力方面的不足。这篇研究为开发可信赖的生成模型提供了见解。