重新思考对比学习的样本选择：潜在样本的挖掘

本文介绍了一种新的监督对比学习目标SCHaNe，并在细调阶段引入了硬负样本采样。实验结果表明，SCHaNe在各种基准测试中的Top-1准确率优于BEiT-3，并在少样本学习设置中取得了3.32%的显著增益和完整数据集细调中的3.41%的显著增益。在ImageNet-1k上，SCHaNe取得了86.14%的准确率，并且改进的嵌入效果更好。