无稀疏模型的稀疏且忠实解释
内容提要
该文综述可解释NLP与时间序列模型研究，涵盖：以任意文本序列为解释单元、带忠实度保证的Hessian-free算法及语义评估度量；GAN生成稀疏反事实解释；特征解释评估标准与低复杂度Shapley值；贝叶斯方法提升概念解释可靠性；符号解释生成；多分类器对抗解释成本与鲁棒性；特征排序忠实度评估；原型概念线性组合自解释；多维特征重要性解释及平行本地搜索方法。
延伸解读
解释单元与忠实度保证
文章提出以任意文本序列作为解释单元，并实现带模型忠实度保证的Hessian-free算法，同时引入基于语义的评估度量。与Influence Function或TracIn相比，该方法在多个数据集上表现更优。这提示读者，解释的粒度选择与算法保证是提升可解释性的关键，而语义度量能更好匹配人类判断。
稀疏反事实与符号解释
针对多变量时间序列，SPARCE方法利用GAN生成稀疏反事实解释，并在人体动作数据集上验证。另一项工作结合模型不可知与SAT方法生成符号解释，能提供充分原因和反事实。这些方法表明，反事实与符号形式可增强解释的直观性，但需注意其适用场景与验证范围。
评估标准与鲁棒性权衡
文章涉及特征解释的定量评估标准、低复杂度Shapley值、特征排序忠实度评估，以及多分类器对抗解释的成本与鲁棒性研究。研究发现基于数据支持的方法比仅基于稀疏的方法更鲁棒，但成本更高。读者应关注解释方法在忠实度、成本与鲁棒性之间的权衡，不宜一概而论。
概念解释与自解释模型
贝叶斯方法被用于提升概念解释的可靠性，以应对全局解释的不稳定性。此外，基于原型概念线性组合的自选模型能解释自身预测，并具备竞争性准确性。多维特征重要性解释中，平行本地搜索（PLS）是唯一持续优于随机搜索的方法，且改进FI解释能提升分类性能。这些进展显示概念与自解释模型是重要方向。
Q&A
在自然语言处理中，如何提高解释的可解释性、效率和忠实度？
论文提出以任意文本序列作为解释单元，并实现了一种带模型忠实度保证的Hessian-free算法，同时提出基于语义的评估度量，该度量能更好地与人类判断匹配。实验表明，该方法优于Influence Function或TracIn等解释技术。
如何为多变量时间序列生成稀疏反事实解释？
可以使用基于生成对抗网络（GAN）架构的SPARCE方法，该方法用于多变量时间序列的稀疏反事实解释，并在真实世界的人体动作数据集和时间序列解释性基准上得到验证。
有哪些方法可以定量评估特征解释的忠实度？
论文提出了基于特征的模型解释的定量评估标准和聚合解释函数的框架，并开发了一个降低复杂度的新Shapley值解释函数。此外，还有研究评估了多种特征排序方法的忠实度，并量化了限制相关特征对解释能力提高的影响。
如何提高概念解释的可靠性？
针对用可理解的人类概念解释模型全局解释的不稳定性问题，提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。
在多分类器场景下，生成对抗解释时如何权衡成本和鲁棒性？
研究阐述了对抗解释的成本与鲁棒性概念，发现基于数据支持的方法比仅基于稀疏的方法更鲁棒，但成本更高。因此，建议在多分类器表现差异大的情况下，不宜一概而论地推荐稀疏方法。
有哪些方法可以生成符号解释？
文章提出一种基于模型不可知和SAT的方法生成符号解释，实验结果表明该方法可以提供充分原因和反事实解释。
如何构建自解释模型以提高可解释性？
可以提出一种基于样例理解的自选模型，使用原型概念的线性组合来解释自己的预测，并通过多种限制条件进行优化。实验结果表明该方法具有良好的可解释性和竞争性的准确性。
有哪些新方法可以改进多维特征重要性解释？
研究提出了多维特征重要性（FI）解释的新方法，包括改进训练过程、比较不同特征移除方法、引入四种基于搜索的方法来识别FI解释。在六个文本分类数据集上的实验表明，引入的平行本地搜索（PLS）方法是唯一能够持续优于随机搜索的方法，FI解释的改进也大幅提升了分类性能。
