改进样本相似性图的对比学习中的 $\mathbb {X}$- 样本对比损失
内容提要
本文介绍了多种对比学习方法，如GraphSC框架、MSCon多相似性对比损失和半监督对比学习。这些方法通过优化对比损失和引入新损失函数，提升了模型在无监督和半监督学习中的表现，尤其在图学习和科学文档表示方面取得了显著进展。
延伸解读
对比学习在图学习中的挑战与创新
图对比学习通常依赖大量负样本来保证嵌入质量，但这会引入虚假负样本并增加计算负担。GraphRank通过基于排名的学习测量相似度得分，将时间复杂度从O(N^2)降至O(N)，有效缓解了虚假负样本问题。GraphSC则利用图增强生成正负样本，并引入掩蔽自我对比机制，显式减小锚点与正样本的距离以加速收敛。这些方法在无监督和迁移学习设置下进行了广泛评估。
多相似性度量与半监督学习的融合
MSCon提出多相似性对比损失，通过自动学习不同相似关系的对比权重，降低不确定任务的影响，在内部和外部领域均优于基准。SsCL将自监督对比损失与半监督交叉熵损失联合优化，在ImageNet上使用1%和10%标记样本分别达到60.2%和72.1%的top-1精度，优于先前方法。这些工作表明，结合多种相似性度量和半监督信号能提升表示质量。
理论基础与跨模态应用
研究建立了对比学习与谱聚类之间的等价性，并探讨了多模态对象的嵌入相似性，提出的核混合损失在视觉数据集上优于标准高斯核。在跨模态训练中，连续加权对比损失（CWCL）通过连续相似性度量对齐嵌入空间，在零样本图像分类、语音意图分类和关键词分类中取得显著改进。这些进展为对比学习提供了理论支撑和跨领域应用潜力。
Q&A
GraphSC框架的主要特点是什么？
GraphSC框架通过图增强函数生成正负样本，并引入掩蔽自我对比机制，以更好地区分正负样本。
什么是多相似性对比损失（MSCon），它的优势是什么？
MSCon通过自动学习相似性的对比权重，降低不确定任务的影响，优于最先进的基准模型。
半监督对比学习（SsCL）是如何工作的？
SsCL结合自监督学习中的对比损失与半监督学习中的交叉熵损失，产生更具区分性的表示。
GraphRank模型解决了什么问题？
GraphRank通过引入基于排名的学习来测量相似度得分，成功缓解了虚假负样本问题，并降低了时间复杂度。
对比学习与谱聚类算法之间有什么关系？
本文建立了对比学习与谱聚类算法之间的等价性，探讨了它们的理论基础。
如何通过对比学习改善科学文档表示？
通过使用引文图嵌入进行相似度学习，优化科学文档的表示。
