SimO损失：无锚对比损失用于细粒度监督对比学习
原文中文，约400字，阅读约需1分钟。发表于：。本研究针对现有对比学习中嵌入表示不足的问题，提出了一种新的无锚对比学习方法SimO损失。该方法通过在嵌入空间中优化相似输入之间的距离与正交性，并最大化不同输入之间的相应度量，显著提高了细粒度对比学习的效果。研究结果表明，SimO损失能够有效地生成结构良好的嵌入，为多种机器学习任务中学习表示的几何特性提供了新的理解途径。
本研究分析对比学习中的不稳定性，指出InfoNCE损失函数导致嵌入收敛到奇异点，影响分类效果。通过理论分析发现，嵌入在一维子空间时为局部最小值。提出正交锚回归损失，提升嵌入的独特性，确保聚类效果。在CIFAR10和CIFAR100数据集上，使用少量标记数据取得显著改善。
