SyntaxShap: 一种文本生成的语法感知解释性方法

本文介绍了一种名为SyntaxShap的可解释性方法，用于在安全关键领域利用大型语言模型。该方法考虑了文本数据中的句法结构，并通过扩展Shapley值来考虑基于解析的句法依赖关系。研究结果表明，SyntaxShap能够生成更忠实、连贯和可解释的预测解释，适用于自回归模型。