基于双特征和示例的解释方法
内容提要
该文综述了多种机器学习可解释性方法，包括LIPEx、MAPLE、SimplEx和CGX等框架，通过局部解释、特征扰动、示例选择和规则提取等技术提升模型透明度与解释质量，并在文本和图像任务中验证了有效性。
延伸解读
解释方法的多样性
文章综述了多种可解释性方法，包括LIPEx、MAPLE、SimplEx和CGX等，它们分别采用局部解释、特征扰动、示例选择和规则提取等技术。这些方法从不同角度提升模型透明度，并在文本和图像任务中验证了有效性。
LIPEx的数据效率优势
LIPEx是一种基于扰动的多类别解释框架，能够局部复制复杂分类模型的概率分布，并揭示特征对每个类别预测概率的影响。与LIME相比，LIPEx在可靠评估解释所需的扰动数量上具有更高的数据效率。
SimplEx的示例解释
SimplEx方法通过用户选择的自由样本提供基于示例的解释，回答与预测相关的问题，并重构测试潜在表示作为语料库潜在表示的混合。这种方法增强了机器学习模型的透明度，帮助理解模型决策。
CGX的规则提取
CGX是一种基于线性规划的分解方法，能够从深度神经网络的隐藏表示中提取规则，优化任意数量的目标，并满足准确复现、稳定性和复杂度降低等特点，从而提高可解释性。
Q&A
LIPEx 是什么？它有什么特点？
LIPEx 是一种基于扰动的多类别解释框架，全称局部可解释的概率解释。它不仅能局部复制复杂分类模型输出的概率分布，还能提供每个重要特征如何影响每个可能类别预测概率的见解。通过根据概率分布空间中的 Hellinger 距离执行的回归获得解释矩阵。在文本和图像数据上的消融测试表明，与基于显著性或特征重要性的 XAI 方法相比，移除 LIPEx 认为重要的特征会对模型预测产生更大变化，且比 LIME 在扰动数量上更具数据效率。
MAPLE 解释系统是如何工作的？
MAPLE 是一种新颖的模型解释系统，使用局部线性建模技术和随机森林的双重解释，提供黑盒解释，并兼具高精度的预测模型和优越的局部解释能力。
SimplEx 方法能做什么？
SimplEx 方法旨在提高人们对机器学习模型的透明度。它可以根据用户选择的一组自由样本来提供基于示例的解释，从而回答与预测相关的问题，并重构测试潜在表示作为语料库潜在表示的混合。
CGX 是什么？它有什么特点？
CGX（Column Generation eXplainer）是一种基于线性规划的分解方法，可以从深度神经网络的隐藏表示中提取规则，优化任意数量的目标，并满足准确复现、稳定性和复杂度降低等特点，提高了可解释性。
基于绑架式解释的机器学习方法是如何为 NLP 模型提供局部解释的？
该方法根据用户定义的代价函数（如解释长度），优化词汇子集以满足两个主要特征，同时在嵌入空间中确保预测不变性。它通过内隐命中集和最大通用子集两种解法得出结果，并可以配置不同的扰动集来检测预测结果的偏见，提高 NLP 解释框架的效果。最后在 SST、Twitter 和 IMDB 数据集上对三种常用情感分析任务进行了评估，展示了框架的有效性。
双替代可解释性框架如何解释 CNN 图像分类器的决策？
该框架不仅提取出潜在特征并把它们与已知“上下文”特征进行对齐，还形成了语义上有意义的概念，用于提取描述“感知”数据生成过程的因果图。
