通过连接高和低置信度预测增强半监督学习

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文提出了一种基于半监督学习的方法,通过将伪标记应用于无标签集中的样本,并利用已训练好的模型标记这些样本,然后迭代重复此过程来训练模型。实验证明,伪标记方法可以取得与现有最先进方法相媲美甚至更好的结果,并且更能抵御未知分布样本。作者指出采用学习课程原理以及在每个自我训练周期前重启模型参数是实现这一点的两个关键因素。在CIFAR-10数据集上,本文仅使用了4,000个标记样本,达到了94.91%的准确率,在Imagenet-ILSVRC数据集上,本文仅使用了10%的标记样本,达到了68.87%的top-1准确率。

🎯

关键要点

  • 提出了一种基于半监督学习的方法,通过伪标记应用于无标签样本。
  • 利用已训练好的模型标记样本,并迭代重复此过程来训练模型。
  • 实验证明伪标记方法的效果与现有最先进方法相媲美,甚至更好。
  • 伪标记方法更能抵御未知分布样本。
  • 采用学习课程原理和重启模型参数是实现成功的关键因素。
  • 在CIFAR-10数据集上,仅使用4,000个标记样本,达到了94.91%的准确率。
  • 在Imagenet-ILSVRC数据集上,仅使用10%的标记样本,达到了68.87%的top-1准确率。
➡️

继续阅读