通过令牌级别不确定性量化对大型语言模型的事实核查
内容提要
本研究探讨了大型语言模型（LLM）的不确定性，发现较大模型可能表现出更高的不确定性，且指令微调会增加这种不确定性。提出了一种新的无参考幻觉检测方法，强调不确定性在评估中的重要性。研究表明，LLM在事实验证方面表现良好，能够执行多任务语言检查，为开发可信生成模型提供了见解。
延伸解读
模型规模与不确定性的反直觉关系
文章指出，较大规模的语言模型可能比较小模型表现出更大的不确定性，且准确性高的模型也可能确定性较低。这挑战了“模型越大越可靠”的常见假设，提示在评估LLM时不能仅看准确性，还需关注其不确定性水平，因为高不确定性可能影响实际应用中的可信度。
指令微调对不确定性的影响
研究发现指令微调倾向于增加语言模型的不确定性。这意味着经过指令微调的模型虽然可能更遵循指令，但其输出可能伴随更高的不确定性。因此，在评估微调效果时，除了任务性能，还应将不确定性作为重要指标，以全面衡量模型行为。
无参考幻觉检测的新思路
文章提出一种基于不确定性的无参考幻觉检测方法，通过分析关键词、历史上不可靠的标记及其属性，无需额外信息即可检测幻觉。这为实际部署中缺乏外部知识库的场景提供了可行方案，但文章未说明该方法的具体性能边界，读者需注意其适用条件。
LLM作为事实验证器的潜力与局限
研究表明LLM可被重新用作有效的事实验证器，与人类判断强相关，且能执行多任务语言检查。但文章也指出，即使GPT-3.5的事实性输出也不到25%，且模型依赖高质量证据，在鲁棒性和泛化能力上存在不足。因此，LLM作为验证器虽有潜力，但尚不能完全替代人类判断。
Q&A
大型语言模型的不确定性如何影响其性能？
大型语言模型可能显示出较低的确定性，且较大规模的模型具有更大的不确定性，这会影响其输出的可靠性。
指令微调对语言模型的不确定性有什么影响？
指令微调倾向于增加语言模型的不确定性，强调在评估中整合不确定性的重要性。
什么是无参考幻觉检测方法？
无参考幻觉检测方法是一种基于不确定性的新颖检测方法，消除了对额外信息的需求，关注文本中的重要关键词和标记属性。
大型语言模型在事实验证方面的表现如何？
研究表明，大型语言模型在事实验证方面表现良好，能够执行多任务语言检查，并与人类判断具有强相关性。
如何提高大型语言模型的响应质量？
通过引入不确定性感知的上下文学习框架，可以过滤掉高不确定性的答案，从而提高模型的响应质量和准确性。
大型语言模型的多任务语言检查能力是什么？
大型语言模型具有多任务语言检查器的特性，可以执行事实检查、刻板印象检测和仇恨言论检测等任务。
