NeCo:通过补丁邻居一致性在19个GPU小时内提升DINOv2的空间表示
原文中文,约300字,阅读约需1分钟。发表于: 。本研究解决了预训练表示提升的不足,提出了一种新的自监督学习信号,利用排序补丁表示来改进预训练模型的表现。研究结果表明,使用NeCo方法可以在仅需19个小时的训练中,在多个模型和数据集上创造新的行业领先成绩,显著提高了特征编码的质量与表现。
DenseDINO是一种自监督学习框架,用于学习密集视觉表示。它通过引入基于token的点级监督,利用了空间信息。在ImageNet分类评估中表现有竞争力,在PascalVOC语义分割中实现了大幅度提升。