LeOCLR: 利用原始图像进行对比学习视觉表征
内容提要
SimCLR 是一种对比学习框架，通过有效的预测任务和大型批次提升自监督学习效果。WCL 引入弱监督对比学习，解决类冲突问题。NNCLR 利用最近邻作为正样本，增强语义变化。SynCLR 在合成图像上表现优异。ContrastiveCrop 提高了多种自监督学习方法的准确率。CLSA 通过数据增强提升检索能力，表现接近有监督结果。
延伸解读
对比学习演进：从SimCLR到NNCLR
文章梳理了对比学习的发展脉络：SimCLR通过大批次和非线性变换提升效果；WCL引入弱监督解决类冲突；NNCLR用最近邻作为正样本，提供更多语义变化，减少对数据变换的依赖。这些方法逐步改进自监督表示的质量，并在ImageNet等基准上超越先前方法。
合成数据与背景不变性：SynCLR与前景显著性
SynCLR利用合成图像和标题学习视觉表征，无需真实数据，在分类和分割任务中表现优异。另一项工作通过前景显著性估计和复制粘贴生成视图，使模型忽略背景、专注前景，在ImageNet分类和PASCAL VOC、MSCOCO检测上取得显著提升。两者都展示了数据生成策略对表征学习的价值。
裁剪策略与强增强：ContrastiveCrop和CLSA
ContrastiveCrop采用无监督语义目标定位和中心抑制采样，扩大裁剪区域方差，提高了SimCLR、MoCo、BYOL、SimSiam等方法的分类准确率。CLSA利用强数据增强引入样本多样性，提升检索能力，在ImageNet上接近有监督结果。这些方法表明，数据增强和裁剪策略对对比学习性能至关重要。
多模态与跨任务泛化：方法比较与资源权衡
文章还提到一种利用内部数据属性和跨模态关联的方法，在COCO上训练，用于分类、检测、分割，在ImageNet上达到55.3%的验证精度。另一项研究比较了16种模型在药物识别等任务上的表现，发现多切割和随机增强通常提升性能，自监督模型性能高且训练快，但需要最大内存和计算资源。
Q&A
SimCLR 是什么？
SimCLR 是一种对比学习框架，通过有效的预测任务和大型批次提升自监督学习效果。
WCL 如何解决类冲突问题？
WCL 通过引入两个投影头进行正则的实例区分任务，使用弱标签进行有监督的对比学习，拉近相似图像之间的距离。
NNCLR 的优势是什么？
NNCLR 利用最近邻作为正样本，提供更多的语义变化，超越现有先进方法，并且对数据变换的依赖性更小。
ContrastiveCrop 是什么？
ContrastiveCrop 是一种生成更好对比对的方法，通过扩大裁剪区域的方差，提高自我监督学习的分类准确率。
CLSA 如何提升检索能力？
CLSA 通过数据增强引入样本多样性，从而提高检索能力，实验结果显示其表现接近有监督结果。
SynCLR 在合成图像上的表现如何？
SynCLR 在合成图像上表现优异，能够在多个下游任务中转移视觉表征，尤其在图像分类任务中表现出色。
