SyntaxShap: 一种文本生成的语法感知解释性方法
内容提要
该文综述基于SHAP的可解释性方法进展，涵盖TextGenSHAP提升大模型解释效率、GRAPHSHAP解释图分类器、LIMASE实现模型无关局部解释，以及句法引导生成和BERT分类器段落级解释，强调解释保真度、计算成本与人类决策影响。
延伸解读
从SHAP到文本生成解释的演进
文章梳理了基于SHAP的可解释性方法在文本生成领域的发展脉络。从2017年SHAP提出为特征分配重要性值，到2022年LIMASE实现模型无关的局部解释，再到2023年TextGenSHAP针对大语言模型优化效率，方法不断适应更复杂的模型。读者可从中看到解释技术如何从简单分类扩展到生成任务，并关注保真度与计算成本的平衡。
句法引导生成提升可解释性
文章提到多项利用句法信息改进文本生成的研究，如基于句法树的语法引导生成模式和依赖分析树驱动转换器模型。这些方法通过显式建模句法结构，在重述生成和机器翻译任务中表现出更好的有效性和可解释性，且能直接控制生成文本的句法构造。这提示读者，在生成任务中引入语言学先验可能有助于提升模型透明度和输出质量。
人类决策中SHAP解释的实际影响
一项2019年的人本评估研究了SHAP解释对领域专家决策的影响。结果表明，SHAP解释确实影响决策过程，但方法得分的置信度仍是主要证据来源；当提供提示信息时，警报处理性能并未明显提升。这说明解释的实用性可能受限于任务场景和用户认知，读者应理性看待解释工具在真实决策中的辅助作用。
Q&A
TextGenSHAP 是什么？它有什么作用？
TextGenSHAP 是一种高效的事后解释方法，结合了 LM 特定技术，通过减少处理时间、提供局部化重要词语和句子的能力以及增强选择性片段和最终回答的准确性，显著提高了大型语言模型的性能。
GRAPHSHAP 能解释什么类型的模型？
GRAPHSHAP 是一种基于 Shapley 的方法，可以对黑盒图分类器提供基于模体的解释。
LIMASE 方法有什么特点？
LIMASE 是一种局部可解释模型无关 Shap 说明法，使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。
SHAP 解释对人类决策有什么影响？
研究表明 SHAP 解释确实影响决策过程，尽管该方法得分的置信度仍然是主要的证据来源。但在实验中，当提示信息可用时，与不提供提示信息相比，在警报处理性能方面并没有明显差异。
如何提高基于 BERT 的分类器的解释保真度？
通过对复杂的基于 BERT 的分类器使用基于段落的方法，可以改进当前基于单词采样的黑盒 NLP 可解释性方法的局限性，大大提高基准分类任务的解释保真度。
句法引导生成模式是如何工作的？
句法引导生成模式基于句法树，通过解码过程的两个部分：（1）对给定源句子中词汇化的句法上下文中的每个成分预测填充文本；（2）映射和扩展每个成分以构建下一级语法上下文以生成自然语言文本。
