基于关系的反事实数据增强与对比学习用于自然语言推理模型的鲁棒性提升

BriefGPT - AI 论文速递 ·

本研究探讨了交叉熵损失在自然语言推理中的不足，通过替换近义词生成对比集，评估模型的理解能力。ELECTRA-small模型在常规数据集上的准确率为89.9%，但在对比集上降至72.5%。通过增强训练数据集，模型准确率提升至85.5%。研究强调多样化语言表达的重要性，以推动自然语言推理模型的发展。

ELECTRA-small 交叉熵损失多样化语言对比学习推理模型模型准确率自然语言自然语言推理

原文中文，约400字，阅读约需1分钟。