无需正则化:一种高效且有效的不完整标签分布学习模型
原文中文,约300字,阅读约需1分钟。发表于: 。标签分布学习 (Label Distribution Learning, LDL) 为样本分配软标签,但是当标签分布是不完整的 (Incomplete LDL, InLDL) 时,往往会导致性能退化。本文提出了一种合理的替代方法来解决这个问题,利用标签分布本身的先验信息和加权方案,无需显式正则化即可获得准确的标签分布并表现竞争力。
本文研究了对抗鲁棒性的半监督对抗训练,提出了正则化项以应用于无标签数据,并通过知识蒸馏结合提出的正则化项进行半监督对抗训练算法。实验证明,该算法在性能方面取得了显著提升,即使有限的有标签数据量,仍能与使用所有标签数据的监督对抗训练算法相媲美。