BriefGPT - AI 论文速递
·
监督对比损失的神经坍缩几何工程
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
本文介绍了一种半监督对比学习的训练策略，使用神经网络实现。结果表明，该方法在少样本学习方面非常有益，以 ResNet50 作为后端的 ImageNet 数据集上，以 1% 和 10% 的标记样本获得了 60.2% 和 72.1% 的 top-1 精度，比基线和以前的方法都要好。
🎯
关键要点
- 提出了一种半监督对比学习的训练策略，称为 SsCL。
- SsCL 结合了自监督学习中的对比损失和半监督学习中的交叉熵损失。
- 该方法通过联合优化两个目标来实现更具区分性的表示。
- 在少样本学习方面，SsCL 表现出显著的优势。
- 在使用 ResNet50 作为后端的 ImageNet 数据集上，SsCL 在 1% 和 10% 的标记样本上分别获得了 60.2% 和 72.1% 的 top-1 精度。
- SsCL 的表现优于基线和以前的半监督学习及自监督学习方法。
➡️
