本文介绍了提高神经网络处理分布外(OOD)数据性能的方法,包括Logit Normalization、Projection Norm和负向感知范数(NAN)。这些方法通过约束输出、使用伪标签和特征屏蔽等技术,显著提升了模型的置信度估计和分类能力,尤其在无标签环境下表现优异。实验结果表明,这些新方法在多个基准测试中超越了现有技术。
该研究提出了一种名为“Projection Norm”的度量标准,用于预测模型在无标签真实标签的情况下对ODD数据的性能。该方法使用伪标签训练新模型,并与输入数据分布模型进行比较以进行预测。该方法在图像和文本分类任务以及不同网络架构上都优于现有方法,并且在理论上与超参数化线性模型的测试误差界限相连。此外,发现“Projection Norm”是唯一实现对对抗性样本检测非平凡性能的方法。
完成下面两步后,将自动完成登录并继续当前操作。