概率也很重要：大型语言模型中自由文本解释的忠实度的更为准确的评估指标
内容提要
本文探讨大型语言模型（LLMs）的忠诚度评估，提出了一种基于自我一致性的测量方法CC-SHAP，强调模型输出的自我一致性与内部工作的重要性。通过反事实输入编辑器和生成的自然语言解释（NLEs）重建输入，评估模型的忠实度。研究发现模型大小与忠实度之间存在复杂关系，并提出生成解释框架xLLM以提高解释质量。
延伸解读
现有忠实度测试的局限
文章指出，当前对大型语言模型解释忠实度的测试实际上只测量了模型输出的自我一致性，而非其内部工作的真实反映。这意味着模型可能生成看似合理但不准确的解释，而现有方法无法有效识别这种不一致。这一局限凸显了开发更准确评估指标的必要性，以避免在高风险决策中盲目信任模型解释。
CC-SHAP：基于自我一致性的新指标
作者提出CC-SHAP，通过比较模型的输入贡献与答案预测及生成解释之间的一致性来衡量忠实度。该方法旨在更准确地评估模型解释是否真实反映了其内部推理过程，而不仅仅是输出的一致性。这为评估解释质量提供了新视角，但实际应用中仍需考虑计算成本和模型无关性。
模型大小与忠实度的复杂关系
研究发现模型大小与忠实度之间存在先扩大后缩小的关系，其中130亿参数模型表现出更高的忠实度。然而，仅改变提示中答案选择的顺序就能使忠实度度量缩小73个百分点，且该度量与准确性高度相关（R²=0.91），这引发了对评估有效性的质疑。这些发现提示，模型规模并非越大越好，且评估需警惕提示顺序等干扰因素。
xLLM框架与反事实方法
为提高解释质量，文章介绍了生成解释框架xLLM，通过评估器和迭代优化最大化忠实度分数。同时，Faithfulness-through-Counterfactuals方法利用反事实假设验证模型预测一致性，无需额外训练。这些方法在模型验证和故障诊断中显示出有效性，但实际部署时需权衡计算开销与解释忠实度的提升。
Q&A
如何评估大型语言模型的忠实度？
可以通过基于自我一致性的测量方法CC-SHAP，比较输入贡献与答案预测及生成解释的一致性来评估模型的忠实度。
CC-SHAP方法的核心原理是什么？
CC-SHAP方法通过比较模型的输入贡献与其答案预测及生成解释之间的一致性来衡量忠实度。
大型语言模型的大小如何影响其忠实度？
研究发现，模型大小与忠实度之间存在复杂关系，130亿参数的模型表现出更高的忠实度。
xLLM框架的作用是什么？
xLLM框架通过评估器和迭代优化过程来提高生成解释的忠实度分数。
反事实输入编辑器的用途是什么？
反事实输入编辑器用于插入导致反事实预测的原因，以评估自然语言解释的忠实度。
Faithfulness-through-Counterfactuals方法的应用是什么？
该方法用于模型验证及故障诊断，通过对逻辑谓词表达的对立假设进行一致性验证，无需额外训练。
