用样本一致性校准大型语言模型
内容提要
该文综述大语言模型置信度校准研究，提出统一校准框架及多种度量与置信度引导方法。研究发现模型规模不保证更好校准，校准依赖度量，自一致性表现优异；温度缩放、微调、自我评估等可提升校准。研究还涉及多语言误校准、对齐模型过度自信及自适应一致性降低成本，强调透明传达可信度对高风险应用的重要性。
延伸解读
模型规模与校准的关系
文章指出，大型语言模型不一定保证更好的校准，校准性能依赖于所采用的度量。这意味着参数量的增加并不自动带来更可靠的置信度估计，开发者和研究者在评估模型时需谨慎选择校准度量，不能仅凭规模判断其可信度。
自一致性的校准优势
自一致性方法在基准数据集上表现优异，通过整合相关源文件、缩放温度、将自一致性与自我评估相结合等技术，可以进一步提高校准性。这为改善长文生成的可信度提供了实用方法，尤其适用于需要高可靠性的生成任务。
多语言场景的误校准风险
在多语言零样本场景下，大规模语言模型存在明显的误校准现象，低资源语言或与英语类型不同的语种尤为突出。温度缩放和标签平滑等标定方法能发挥良好作用，少量样本数据也能显著降低标定误差，这对多语言应用部署具有重要参考价值。
对齐模型的过度自信与用户感知
对齐的语言模型在多选题设置下常显示过于自信的输出，而默认解释会导致用户过高估计模型的信心和准确性。更准确反映模型内部可信度的解释能显著影响用户感知，因此透明传达可信度在高风险应用中尤为重要。
Q&A
大型语言模型的校准能力是否随模型规模增大而自动提升？
不一定。研究发现模型规模并不保证更好的校准性能，校准效果依赖于所采用的度量方法。
有哪些方法可以提升大型语言模型的置信度校准？
可以通过温度缩放、微调、整合相关源文件、将自一致性与自我评估相结合等技术来提高校准性。
自一致性方法在语言模型校准中表现如何？
自一致性方法在基准数据集上表现优异，能够有效提升校准性能。
多语言语言模型在零样本场景下的校准存在什么问题？
存在明显的误校准现象，在低资源语言或与英语语言类型不同的语种中尤为突出。温度缩放和标签平滑等方法能改善校准，少量样本数据也能显著降低标定误差。
对齐后的语言模型在置信度校准上有什么特点？
对齐的语言模型在多选题设置下常显示过于自信的输出答案，但可以通过易于实施且高效的校准方法来改善。
自适应一致性技术如何帮助降低大型语言模型的采样成本？
自适应一致性技术能够将采样成本降低最多6倍，同时保持高精度。
为什么透明传达语言模型的可信度在高风险应用中很重要？
透明传达可信度有助于用户准确评估模型输出的可靠性，避免因默认解释导致过高估计模型的信心和准确性，从而增强信任和准确性评估。
