本文提出了一种新颖的置信度正则化方法，旨在解决掩码语言建模中因输入文本长度短而导致的模型过度自信问题。实验结果显示，该方法在GLUE和SQuAD数据集上提高了准确性并降低了校准误差。

Confidence Regularization for Masked Language Modeling Using Text Length
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证