MAQA：评估大型语言模型在数据不确定性方面的量化不确定性
内容提要
该研究探讨了大型语言模型（LLM）生成的不确定性，提出了新的度量标准来量化解释的不确定性。研究发现，口头化不确定性不可靠，而探测不确定性与解释忠实度相关。通过新方法KLE，量化模型输出的语义不确定性，提升了LLM在安全关键场景中的可信度。此外，研究提出了Luq-Ensemble方法，通过集成多个模型的响应来提高事实准确性。
延伸解读
口头化不确定性的局限
文章指出，大型语言模型通过自然语言表达的不确定性（口头化不确定性）并不可靠，不能准确反映其解释的置信度。相反，通过探测模型内部状态得到的探测不确定性，与解释的忠实度相关：较低的不确定性往往对应较高的忠实度。这意味着在实际应用中，仅依赖模型自我报告的不确定性可能产生误导，需要更客观的量化方法。
模型规模与不确定性的反直觉关系
研究发现，准确性较高的模型可能表现出较低的确定性，而规模更大的模型可能比小模型具有更大的不确定性。此外，指令微调倾向于增加模型的不确定性。这些结果提示，在评估语言模型时，不能简单地将不确定性低等同于性能好，需要结合准确性等指标综合判断，同时也为模型选择和优化提供了新的考量维度。
KLE与Luq-Ensemble的实用价值
针对安全关键场景，文章提出了KLE方法，通过冯·诺依曼熵量化模型输出的语义不确定性，在多个数据集和模型架构上表现更优。同时，Luq-Ensemble通过集成多个模型的响应并选择不确定性最小的答案，显著提高了事实准确性，甚至超越最佳独立模型。这些方法为提升LLM在事实性和可靠性要求高的任务中的表现提供了可行路径。
Q&A
大型语言模型的不确定性是如何被量化的？
通过提出新的度量标准，如口头化不确定性和探测不确定性，来量化生成解释的不确定性。
研究中发现口头化不确定性和探测不确定性之间有什么关系？
研究发现口头化不确定性不可靠，而探测不确定性与解释的忠实度相关，较低的不确定性对应于较高的忠实度。
KLE方法在大型语言模型中有什么应用？
KLE方法用于估计语言模型中的不确定性，能够捕捉模型输出的语义不确定性，并通过von Neumann熵量化不确定性。
Luq-Ensemble方法是如何提高事实准确性的？
Luq-Ensemble方法通过集成多个模型的响应，选择不确定性最小的响应，从而提高了响应的事实准确性。
大型语言模型在安全关键场景中的不确定性问题如何解决？
通过语义密度方法，解决大型语言模型在安全关键场景中的不确定性问题，提高可信度和性能表现。
研究中提到的模型规模与不确定性之间的关系是什么？
研究发现，较大规模的语言模型可能与较小规模的模型相比具有更大的不确定性。
