关于对大型语言模型的置信度归属
原文中文，约1800字，阅读约需5分钟。
📝
内容提要
本文探讨了大型语言模型（LLMs）对世界信念的表达及其置信度评估，提出了准确度、连贯性、一致性和应用等标准来评估不同置信度估计方法的有效性。实验结果表明，训练的隐藏状态探针提供了最可靠的置信度估计，但在语义等效输入下，模型的置信度表现不稳定，显示出改进的空间。此外，研究还探讨了引用方法在长文档处理中的应用，提出了自信度引出方法及其优缺点，并强调了对模型置信度的重新校准。
❓
Q&A
大型语言模型的置信度评估标准有哪些？
评估标准包括准确度、连贯性、一致性和应用等。
训练的隐藏状态探针在置信度估计中表现如何？
训练的隐藏状态探针提供了最可靠的置信度估计，但在语义等效输入下表现不稳定。
如何改善大型语言模型的置信度指标？
可以通过测量模型的不确定性和使用自信度引出方法来改善置信度指标。
大型语言模型在处理长文档时的引用方法有哪些？
主要有引导 LLM 和微调更小的 LM 两种方法。
大型语言模型的自信度过高问题如何解决？
可以通过重新确定置信度的方法来解决自信度过高的问题。
如何量化大型语言模型的不确定性？
可以通过信息论度量来检测认识论不确定性，并评估模型输出的可靠性。
🏷️
