基于概念的解释的可读性和忠实度评估
原文中文，约1100字，阅读约需3分钟。
📝
内容提要
本文探讨了大型语言模型（LLMs）自我解释的忠实度，提出了基于自我一致性的测量方法CC-SHAP。研究表明，模型忠实度与任务和模型类型相关，并提出生成解释框架xLLM以提升解释质量，强调透明度和可理解性的重要性。
🔎
延伸解读
忠实度评估的挑战与自洽性方法
文章指出，大型语言模型可能生成合理但不准确的解释，而现有忠诚度测试实际上只测量了模型输出的自我一致性，而非其内部工作的忠诚度。为此，作者提出基于自我一致性的新测量CC-SHAP，通过比较模型的输入贡献与答案预测及生成解释之间的一致性，更准确地衡量模型的忠诚度。
忠实度的任务与模型依赖性
研究发现，模型忠实度与任务和模型类型相关。例如，在情感分类任务中，Llama2的反事实解释、Mistral的重要性度量和Falcon 40B的删除被证明更加忠实。这表明没有一种解释方法在所有情况下都最忠实，选择解释方法时需考虑具体任务和模型。
xLLM框架提升解释质量
文章介绍了生成解释框架xLLM，该框架通过评估器和迭代优化过程来最大化生成解释的忠实度分数。实验证明xLLM可以显著提高生成解释的忠实度。这为提升大型语言模型自我解释的可靠性提供了一种可行方案。
❓
Q&A
什么是CC-SHAP测量方法？
CC-SHAP是一种基于自我一致性的新测量方法，用于更准确地衡量大型语言模型的忠诚度。
大型语言模型的忠实度与哪些因素相关？
模型的忠实度与任务类型和模型架构相关，例如在情感分类任务中，Llama2的反事实解释表现更忠实。
xLLM框架是如何提高解释质量的？
xLLM框架通过评估器和迭代优化过程来最大化生成解释的忠实度分数，从而提高解释质量。
在评估大型语言模型时，使用了哪些可信度测量方法？
文章提出了三种可信度测量方法，并在不同模型架构中进行了评估。
大型语言模型的自我解释性存在哪些问题？
模型可能提供合理但不准确的解释，现有的忠诚度测试主要测量模型输出的自我一致性，而非其内部工作的忠诚度。
如何提高复杂机器学习系统的可解释性？
可以通过采用基于诚实度的指标的局部元解释技术来提高复杂机器学习系统的可解释性。
🏷️
