BriefGPT - AI 论文速递 · 2025-04-08T00:00:00Z

Confidence Regularization for Masked Language Modeling Using Text Length

📝

内容提要

本文提出了一种新颖的置信度正则化方法，旨在解决掩码语言建模中因输入文本长度短而导致的模型过度自信问题。实验结果显示，该方法在GLUE和SQuAD数据集上提高了准确性并降低了校准误差。

🏷️

标签

GLUE SQuAD 掩码语言建模 模型过度自信 置信度正则化