本文研究了通过新的概率模型对比学习的有效修改，提出了联合对比学习（JCL）的特殊形式，具有更紧的约束条件。通过理论分析和实验验证，证明了JCL在搜索不变特征时的优势，并在多个基准测试中展示了对现有算法的显著改进。

该文介绍了一种名为SNIP的预训练方法，通过符号和数字领域之间的联合对比学习增强它们在预训练嵌入中的相似性。该方法在符号回归等任务上表现出色，能够有效地应用于各种任务，在少样本学习场景中始终优于全监督基线并与已确立的任务特定方法竞争激烈。