通过半监督蕴涵信号实现合理提取的理由化
内容提要
本文综述可解释自然语言推理研究，涵盖RExC、EPR、REFER等框架，通过提取合理化解释、信息校准和自训练提升模型性能与可信度，并探讨生成解释的局限及未来方向。
延伸解读
从提取到生成：解释技术的演进
文章梳理了可解释自然语言推理中解释技术的演进脉络。早期工作如EPR采用无监督逻辑推理，REFER引入可微分提取器，RExC则结合提取与生成解释。这些方法从单纯提取文本片段，逐步发展到生成自然语言解释，并尝试与背景知识融合。这种演进反映了研究重心从提升可解释性到兼顾模型性能的转变。
半监督与自训练：低资源场景的突破口
针对标注数据稀缺的问题，文章介绍了多种半监督和自训练策略。例如，利用BART生成假设句子进行半监督学习，或通过多任务教师-学生框架和SimPLE伪标签编辑算法提升自训练质量。这些方法在低资源环境下显著提升了NLI任务性能，表明结合无标注数据是缓解数据依赖的有效途径。
忠实度与可信度：解释质量的双重挑战
文章强调了解释的忠实度和可信度问题。REFER框架通过人工标注重点提升忠实度，而信息校准方法则利用对抗技术校准提取信息。这些努力旨在确保解释真实反映模型决策过程，而非事后合理化。然而，生成解释仍受限于神经语言模型的普遍性陈述，难以预测更新或生成具体理由，这是未来需要突破的难点。
Q&A
RExC框架是如何实现可解释自然语言推理的？
RExC是一种自我合理化的框架，它提供两种互补类型的解释（NLE和提取合理），并将其与背景知识结合，从而达到了任务最新水平的性能，并大幅度领先于现有模型。
EPR方法如何提高NLI模型的可解释性？
EPR是一种可解释性的短语推理方法，通过无监督的逻辑推理来解释自然语言推理模型。它使用深度学习模型检测两个句子中对应的语义单元，并进行相应的逻辑推理，从而提高了模型的可解释性和可训练性。
REFER框架在哪些方面提升了性能？
REFER框架利用可微分的rationale extractor，通过在训练过程中使用人工标注的重点提取训练任务模型和rationale extractor，从而在忠实度、可信度和下游任务准确率方面显著提升性能。
如何通过信息校准提取辩解原因？
通过信息校准和流畅关联提取语义信息的方法，可以成功提取辩解原因，并在情感分析、仇恨言论识别和法律方面的任务中证明了其有效性。
自训练语言模型在低资源环境下的效果如何？
利用自训练语言模型进行多任务教师-学生框架，在有限的任务特定标签和理由下，通过精心选择样本学习信息伪标签示例以及明确合理化预测的特征，显著提高了神经模型的性能，特别在低资源环境中表现出有效性。
生成解释的局限性是什么？
由于神经语言模型的基本限制，生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。
