BriefGPT - AI 论文速递
·
重新思考对比学习的样本选择：潜在样本的挖掘
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
本文介绍了一种新的监督对比学习目标SCHaNe，并在细调阶段引入了硬负样本采样。实验结果表明，SCHaNe在各种基准测试中的Top-1准确率优于BEiT-3，并在少样本学习设置中取得了3.32%的显著增益和完整数据集细调中的3.41%的显著增益。在ImageNet-1k上，SCHaNe取得了86.14%的准确率，并且改进的嵌入效果更好。
🎯
关键要点
-
提出了一种新的监督对比学习目标 SCHaNe。
-
在细调阶段引入了硬负样本采样。
-
SCHaNe 在各种基准测试中 Top-1 准确率优于 BEiT-3。
-
在少样本学习设置中取得了 3.32% 的显著增益。
-
在完整数据集细调中取得了 3.41% 的显著增益。
-
在 ImageNet-1k 上取得了 86.14% 的准确率。
-
改进的嵌入效果更好，解释了实验中观察到的改进效果。
🏷️
标签
➡️
