用反事实表示解释文本分类器
内容提要
本文综述反事实解释在机器学习中的应用，涵盖文本与图像领域。相关研究通过替换文本、优化潜空间或生成对抗样本，生成最小距离的互补类样本，以解释黑箱模型决策。方法包括预训练生成模型、Shapley值估计、结构因果模型等，用于提升分类器鲁棒性、透明性及公平性，并在情感分析、虚假新闻检测等任务中验证有效。
延伸解读
反事实解释的通用框架与领域适应
文章提出一个不限于模型、表示和领域的通用框架，将反事实解释建模为通过替换文本部分来搜索互补类文本的问题。该框架包含独立于领域的运算符，也可通过专门运算符利用领域知识，并采用基于单词级Levenshtein距离的搜索算法寻找最小距离的互补类文本。这种设计使方法能灵活适应不同任务，而无需重新训练模型。
生成方法的技术多样性
文章综述了多种生成反事实解释的技术路径，包括使用预训练生成模型、优化潜在空间、生成对抗样本、基于决定点过程的多样性生成、Shapley值估计组合效果以及结构因果模型等。这些方法分别针对离散文本优化、因果约束、多样性等挑战，并在情感分析、虚假新闻检测等任务中验证了有效性。
应用价值：从鲁棒性到公平性
反事实解释不仅用于理解黑箱模型决策，还能提升分类器鲁棒性、透明性和公平性。例如，通过增加反事实数据训练鲁棒文本分类器，或利用反事实正则化消除图像分类中对皮肤和头发颜色的偏见。在虚假新闻检测中，三步法（提问、寻找矛盾、合理推理）能帮助读者理解判定原因，实验表明比现有方法更有帮助。
Q&A
什么是反事实解释？它在文本分类中有什么作用？
反事实解释是一种通过生成与原始样本最小距离的互补类样本来解释黑箱模型决策的方法。在文本分类中，它通过替换文本的各个部分来转换初始状态为分类文本，帮助用户理解分类器推荐或预测背后的推理。
生成文本反事实解释的通用框架是如何工作的？
该框架将任务建模为通过替换文本的各个部分来转换初始状态为分类文本的搜索问题，包括独立于领域的运算符，也可以利用领域特定的知识。搜寻算法试图找到距离原始分类对象具有最小的基于单词级别的 Levenshtein 距离的互补类文本。
反事实解释如何提升文本分类器的鲁棒性和公平性？
通过增加具有相反特性和标签的反事实数据来训练鲁棒的文本分类器，可以强化模型可靠性和泛化性。实验证明，其在人工生成对照样本和原始测试数据上表现出较高的鲁棒性和精准度。此外，反事实正则化方法可以消除分类器训练数据中对皮肤和头发颜色等多维属性的偏见，提升公平性。
有哪些方法可以生成文本反事实解释？
方法包括：使用预训练的生成模型生成因果关系和可解释的反事实解释；使用大型语言模型生成对抗样本；优化潜在空间并利用语言模型生成候选修改，并使用 Shapley 值估计多个更改的组合效果；基于决定点过程的生成和评估多样性反事实解释的框架；以及利用结构原因模型和 ALI 生成对抗学习算法生成满足因果关系约束的反事实例。
反事实解释在虚假新闻检测中是如何应用的？
采用反事实解释的方法，通过三步：提问，寻找矛盾，合理推理，来让读者理解为什么一个特定新闻被认定为虚假。在 FEVER 数据集的实验评估表明，这种方法相比于现有成果更具有帮助性。
反事实解释在情感分析任务中有什么效果？
反事实推理模型在学习少量反事实样本的基础上，通过生成对于每个正面事实样本的代表性反事实样本，并使用回顾模块根据对比反事实和正事实样本来检查模型预测，从而模拟对于困难测试样本的人类反事实思维。该方法在情感分析和自然语言推理方面的广泛实验验证了其有效性。
