在基础模型时代重新审视半监督学习
本研究针对半监督学习(SSL)在视觉基础模型(VFM)中的应用不足,提出新的基准数据集并系统评估多种SSL方法。关键发现是,仅用标记数据的参数高效微调(PEFT)方法能与SSL性能相匹配,此结果促使我们改进自训练方法,通过多种PEFT模型的集成,生成更稳健的伪标签,提供了SSL与VFM结合的新见解。
本研究针对半监督学习(SSL)在视觉基础模型(VFM)中的应用不足,提出新的基准数据集并系统评估多种SSL方法。关键发现是,仅用标记数据的参数高效微调(PEFT)方法能与SSL性能相匹配,此结果促使我们改进自训练方法,通过多种PEFT模型的集成,生成更稳健的伪标签,提供了SSL与VFM结合的新见解。