本文提出了一种新的对比学习框架，用于解决联邦学习中的数据异构性挑战。通过分析梯度更新的不一致性和特征表示分布的依赖性，提出了监督式对比学习（SCL）目标来减轻局部偏差。为了防止表示坍缩并增强特征可传递性，引入了放松的对比学习损失。实验结果表明，该框架在标准基准上比现有的联邦学习方法更优。

本文提出了一种新的对比学习框架，用于解决联邦学习中的数据异构性挑战。该框架通过分析客户端之间梯度更新的不一致性，并建立其与特征表示分布的依赖性，提出了监督式对比学习（SCL）目标来减轻局部偏差。为了防止表示坍缩并增强特征可传递性，引入了放松的对比学习损失，对过度相似的样本对施加差异惩罚。实验结果表明，该框架在标准基准上比现有的联邦学习方法更具优势。

本文介绍了一种名为InfoCSE的对比学习框架，用于学习无监督的句子嵌入。该框架在语义文本相似性任务上表现出色，成为无监督句子表示学习方法中的最新成果。框架引入了一个额外的掩蔽语言模型任务和一个经过精心设计的网络来强制[CLS]位置的表示聚合更密集的句子信息。

SimCKP是一个简单的对比学习框架，能够学习上下文感知的短语级表示，并生成不出现在文档中的关键短语。实验结果表明，SimCKP在多个基准数据集上的性能明显优于现有的模型。

本文介绍了Contrast and Mix（CoMix）的新对比学习框架，用于无监督视频领域适应学习。通过时间对比学习和背景混合，弥合领域差距，增加视频领域适应的语义分享。实验证明该方法的优越性。