LayerMatch: 伪标签对所有层是否有益?
原文中文,约400字,阅读约需1分钟。发表于: 。基于理论分析和经验实验证明,特征提取层和线性分类层在响应伪标签时具有不同的学习行为。我们开发了两种层特定的伪标签策略:Grad-ReLU 可以通过在线性分类层中消除伪标签的梯度不利影响来减轻噪声伪标签的影响,Avg-Clustering 可以通过整合一致输出来加快特征提取层向稳定聚类中心的收敛速度。我们的方法 LayerMatch...
研究开发了一种名为LayerMatch的半监督学习方法,通过伪标签策略减轻噪声伪标签的影响并加速特征提取层的聚类能力。实验结果显示,LayerMatch方法在半监督学习基准上表现出卓越性能,相对基准方法提升了10.38%。