大型语言模型（LLMs）常常产生错误，如事实不准确和偏见，称为“幻觉”。研究发现，LLMs的内部状态编码了输出真实性的信息，这可以用于错误检测。真实性信息集中在特定标记中，利用这一特性可以显著提高错误检测性能。然而，这些检测器在不同数据集间无法泛化，表明真实性编码并非普遍适用。此外，内部表示能够预测模型可能出现的错误类型，从而帮助制定针对性缓解策略。最后，LLMs的内部编码与外部行为存在差异，可能编码正确答案却生成错误答案。这些发现加深了我们对LLMs错误的理解，为未来的错误分析和缓解研究提供了指导。