大型语言模型的多语言置信度评估全面研究
内容提要
本文综述大语言模型置信度估计与校准研究，指出模型常高置信度出错或低置信度答对，默认解释会令用户高估其准确性。研究提出多视角一致性、自学习框架及不确定性度量等方法改进校准，并强调需透明传达可信度以应对人机交互安全风险。
延伸解读
置信度校准为何关键
文章指出，大型语言模型常出现高置信度但回答错误、低置信度却回答正确的情况，类似人类的邓宁-克鲁格效应。这种偏差会导致用户高估模型准确性，尤其在需要判断信息可靠性的高风险场景中，可能引发安全风险。因此，提升模型置信度校准能力，并透明传达可信度，是人机交互安全的重要前提。
现有改进方法概览
为改善校准，文章提及多种方法：多视角一致性方法通过多角度评估缓解单一视角的过度自信；自学习框架结合未标记数据和不确定性评估，在跨语言任务中提升性能；还有基于词汇、一致性和混合的置信度引出方法，以及语义分散平均值等不确定性度量。这些方法从不同层面尝试让模型置信度更准确反映实际正确概率。
用户感知与解释的影响
研究显示，默认解释会导致用户过高估计模型的信心和准确性，而更准确反映模型内部可信度的解释能显著影响用户感知，增强信任和准确性评估。这意味着，仅仅改进模型内部校准还不够，如何向用户传达不确定性同样关键。设计不当的解释可能放大风险，而恰当的解释有助于用户合理依赖模型输出。
Q&A
大型语言模型在置信度方面存在哪些典型问题？
大型语言模型常出现高置信度但回答错误的情况，类似邓宁-克鲁格效应，以及低置信度但回答正确的情况，存在低估偏差。
为什么大型语言模型需要良好的校准能力？
为了赢得人类信任，LLM需要准确评估和传达其预测的正确概率，良好的校准能力有助于用户正确理解模型输出的可靠性。
默认解释如何影响用户对语言模型可信度的感知？
默认解释会导致用户过高估计模型的信心和准确性，而更准确反映模型内部可信度的解释能显著影响用户感知，增强信任和准确性评估。
有哪些方法可以改进大型语言模型的置信度估计？
多重视角的一致性方法（MPC）可以改进置信度估计，减缓单一视角导致的过度自信；还有基于自学习的框架、不确定性度量等方法。
如何评估黑盒大型语言模型的不确定性？
可以基于词汇、一致性和混合等三类方法进行基准评估，语义分散的平均值可作为评估LLM响应质量的可靠指标。
自学习框架在跨语言任务中表现如何？
基于自学习的框架结合目标语言未标记数据和不确定性评估方法，在40种语言的命名实体识别和自然语言推理任务中，平均性能分别超过基线模型10 F1和2.5准确度得分。
人类与语言模型交互时存在哪些安全风险？
现有语言模型无法表达不确定性，导致高错误率；人类过分依赖模型回复，并对不确定性回复有偏见，带来安全危害。
