JustiLM: 针对真实世界的主张可解释性事实检验的少样例事实描述生成
内容提要
该文综述了利用自动化证明与解释生成提升事实核查和模型可解释性的多项研究，涵盖基于主张抽取改进摘要、多任务模型联合优化判断与证明、ExClaim自然语言解释系统、端到端多模态事实核查数据集Mocheg、一阶逻辑引导的FOLK推理、自训练与掩码标签正则化、断言增强少样本提示、教师-学生框架及ZARA零样本生成理由等方法，旨在提高准确性、解释忠实度与低资源场景表现。
延伸解读
从摘要到证明：事实核查的链条
文章指出，基于主张信息的抽取步骤能改善摘要性能，进而从证明生成摘要中获益。这意味着在自动事实核查中，先准确抽取主张相关上下文，再生成解释，可能比直接生成更有效。该发现强调了中间步骤对最终解释质量的影响，为构建可解释的核查系统提供了可操作的优化方向。
多模态核查的基准与差距
Mocheg数据集包含21,184个索赔和58,523条文本与图像证据，覆盖多模态证据检索、索赔验证和解释生成三个子任务。实验显示，端到端多模态事实核查的最新性能仍远不令人满意。这提示读者，尽管基准已建立，但多模态场景下的准确性与解释能力仍有较大提升空间，后续研究需关注证据融合与推理的鲁棒性。
低资源场景下的解释增强策略
文章介绍了多种提升低资源场景表现的方法：自训练结合掩码标签正则化（MLR）促进解释与预测标签的紧密联系；教师-学生框架利用信息伪标签和明确合理化特征；ZARA通过自然语言推理自动构建伪平行数据进行自训练。这些方法共同表明，在标注有限时，利用无标注数据和解释信号可以显著改善模型性能与解释忠实度。
教育解释生成的实证效果
增强断言的少样本学习技术在12名在职教师的比较研究中，将解释准确性提高了15%，并获得更高质量的评价。这表明，针对特定领域（如教育）设计提示技术，能够利用大语言模型的少样本能力生成准确、详细的解释。该结果也为教育者提供了友好的提示指南，说明领域适配的提示工程具有实际应用价值。
Q&A
自动化事实核查中，生成证明（解释）有什么作用？
自动化生成证明（说明为何某主张被分类为真或假）的过程在抵制虚假信息方面起到重要作用。
ExClaim系统是如何提供可解释性的？
ExClaim是一个基于经验分析的可解释性声明验证系统，通过像法律系统一样的理性化方法，提供说明模型决策过程的自然语言解释，有助于改进人工智能的可靠性和减少警惕性。
Mocheg数据集包含哪些内容？
Mocheg是一个大规模数据集，包括21,184个索赔和58,523条文本和图像形式的证据，用于端到端多模态事实核查和解释生成。
FOLK方法如何利用一阶逻辑进行事实核查？
FOLK将声明转化为由谓词组成的一阶逻辑子句，每个谓词对应需验证的一个子声明，并利用一组知识基础的问答对进行一阶逻辑引导的推理，从而做出真实性预测并生成解释。
ZARA方法在少样本自我合理性方面有什么创新？
ZARA通过将可能性判断问题转换为自然语言推理，自动构建伪平行数据来进行自我训练，在FEB基准测试中实现了SOTA性能，包括任务准确性和解释度量。
教师-学生框架在低资源环境下有什么优势？
教师-学生框架通过精心选择样本学习信息伪标签示例以及明确合理化预测的特征，显著提高了神经模型的性能，特别在低资源环境中表现出有效性。
