CLUE：大型语言模型的概念级不确定性估计
内容提要
该研究探讨了大型语言模型中的不确定性量化，提出了多种统计度量标准，发现语义分散的平均值可有效评估响应质量。研究表明，准确性高的模型可能显示低确定性，指令微调会增加不确定性。通过新方法“Rank-Calibration”和Kernel Language Entropy（KLE），提高了不确定性估计的准确性，增强了模型的可靠性。
延伸解读
不确定性量化为何重要
文章指出，在安全性和可靠性至关重要的应用中，大型语言模型的不确定性量化非常关键。通过估计模型输出的不确定性，可以识别可能不可靠的生成内容，从而避免在关键场景中盲目信任模型输出。这为构建更稳健的AI系统提供了基础。
反直觉的发现：准确性与确定性的关系
研究发现，准确性较高的模型可能显示出较低的确定性，而较大规模的模型可能比较小规模的模型具有更大的不确定性。此外，指令微调倾向于增加模型的不确定性。这些结果挑战了“越准确越自信”的直觉，提示在评估模型时需单独考虑不确定性维度。
新方法提升估计与校准
文章介绍了多种新方法，如Rank-Calibration框架消除了二进制阈值化的需求，Kernel Language Entropy（KLE）能捕捉语义不确定性，上下文化的序列可能性（CSL）提高了预测生成质量的可靠性。这些方法共同推动了不确定性估计的准确性和实用性。
从估计到应用：过滤与改进
通过不确定性感知的上下文学习框架，可以过滤掉高不确定性的答案，从而改进响应质量。语义多样性的引入有助于减少虚构性生成，提高模型可靠性。这表明不确定性量化不仅能评估模型，还能直接用于提升生成内容的质量。
Q&A
大型语言模型中的不确定性是如何被量化的？
通过提出多个置信度和不确定度统计度量标准，以及引入新的度量标准如口头化不确定性和探测不确定性来量化不确定性。
语义分散的平均值在评估响应质量中有什么作用？
语义分散的平均值被发现是评估大型语言模型响应质量的可靠指标。
指令微调对大型语言模型的不确定性有什么影响？
指令微调倾向于增加大型语言模型的不确定性。
Rank-Calibration框架的主要功能是什么？
Rank-Calibration框架用于评估语言模型的不确定性和置信度，消除了二进制阈值化的需求。
Kernel Language Entropy（KLE）是如何帮助估计不确定性的？
KLE是一种新方法，能够捕捉模型输出的语义不确定性，并通过von Neumann熵来量化不确定性。
上下文化的序列可能性（CSL）评分方法的优势是什么？
CSL评分方法通过增强预测的序列概率，提高了生成质量的可靠性。
