对比学习的数据增强是对正激励噪声的估计
内容提要
本文探讨了噪声对比估计中负面案例的重要性，提出了硬负面案例的有效性，并开发了分析工具以减少误差。研究介绍了新的对抗噪声视图和基于元学习的对比学习方法，强调数据增强在提高模型性能中的作用，并分析了对比学习的鲁棒性及其对采样偏差的容忍度。
延伸解读
硬负样本：从理论到零样本实体链接
文章指出，硬负样本——在模型下得分最高的错误样本——对噪声对比估计特别有效。通过将负样本分布设置为模型分布，可以减少估计误差，并结合适当的评分函数，在零样本实体链接任务上取得了强大结果。这提示我们，在对比学习中，负样本的选择策略可能比单纯增加数量更重要。
对抗噪声视图：模态无关的鲁棒对比损失
文章提出一种新的对抗噪声视图对比损失函数，在图像、视频和图等模态的基准测试中带来一致改进。该方法模态无关，且可作为InfoNCE损失的简单替代。这意味着，通过引入对抗性噪声视图，可以提升对比学习在不同数据模态上的鲁棒性和泛化能力。
负样本数量与表示质量：碰撞-覆盖权衡
文章通过理论模型表明，负样本数量不会影响对比损失所优化的表示，这源于采样潜在类导致的“碰撞-覆盖”权衡。这一发现挑战了“负样本越多越好”的直觉，并给出了最优表示的结构特征，为噪声对比估计提供了实证支持。
采样偏差容忍度与ADNCE损失
文章从分布鲁棒优化视角揭示对比学习对采样偏差具有内在容忍度，温度τ起到拉格朗日系数的作用，调节潜在分布集合的大小。同时指出对比学习可能过度保守且对异常值敏感，为此提出调整的InfoNCE损失（ADNCE），在多个领域实验中被证实能改进潜在分布、提升性能并加快收敛。
Q&A
硬负面案例在噪声对比估计中有什么重要性？
硬负面案例是模型下得分最高的不正确案例，能够有效提高模型性能。
如何通过对比学习提高模型的鲁棒性？
通过基于元学习和生成模型的方法，增强有信息量的特征，避免无用特征的干扰。
对比学习中数据增强的方法有哪些？
利用对比学习中的数据增强方法，可以解决多个数据增强方法带来的问题，减少负面影响。
负样本数量对下游分类性能有什么影响？
负样本数量不会影响对比损失优化的表示，存在“collision-coverage”权衡。
新提出的ADNCE损失有什么优势？
ADNCE损失可以减轻对比学习的潜在缺点，提高性能并加快收敛速度。
对比学习如何处理采样偏差？
对比学习通过分布鲁棒优化的视角，展现出对采样偏差的内在容忍度。
