本研究提出CSE-SFP方法，旨在提高无监督句子表示学习的效率。该方法通过一次前向传播实现有效的对比学习，显著提升嵌入质量，降低训练时间和内存消耗，对文本表示领域具有重要影响。

本研究提出HNCSE框架，通过混合困难负样本，提升无监督句子表示学习的效果。实验结果表明，该方法在语义文本相似性和迁移任务中表现优越，推动了对比学习的发展。

本研究评估了多种跨语言词向量诱导方法，提出了针对日语的句子表示模型JCSE的新领域自适应学习方法，并比较了多语言模型在生成文档级表示中的效果。此外，研究开发了日本SimCSE和JaColBERT模型，展示了在语义相似性和检索任务中的性能提升。

本文介绍了一种名为条件遮蔽语言建模（CMLM）的新训练方法，能够在大规模未标记语料库上有效学习句子表示。CMLM在多语言任务中表现优异，尤其在跨语言语义搜索中提升了10%。该方法还探讨了去除语言偏见的可能性，同时保留句子语义，显示出在低资源设置下的优势。

该文综述自监督学习进展，涵盖对比学习、句子表示和图神经网络等方向。研究提出语义感知对比句子表示、权重正交约束、谱流形统一框架及局部感知图对比学习等改进框架，实验证明这些方法能提升表征质量与下游任务性能，并缩小监督与无监督学习的差距。

本文综述对比学习在句子表示、图学习和时间序列中的应用。RankCSE结合排名一致性与蒸馏提升句子表示；GraphRank用排名学习缓解假负样本并将复杂度降至O(N)；TimesURL、SLOTS等自监督框架在时间序列分类、预测和异常检测等下游任务中表现优异。

本文提出了一种无监督的句子表示学习方法，通过转换输入句子得到定长向量表示，消除了对标注数据的依赖。使用两阶段的方法进一步提高性能。实验证明，CoT-BERT 方法超越了一系列强大的基准模型。