本研究提出CSE-SFP方法，旨在提高无监督句子表示学习的效率。该方法通过一次前向传播实现有效的对比学习，显著提升嵌入质量，降低训练时间和内存消耗，对文本表示领域具有重要影响。

本文提出了一种改进的耦合Adam优化器，以解决大型语言模型在学习词表示时的各向异性问题。实验结果表明，耦合Adam显著提高了嵌入质量，并优化了大规模数据集的任务性能。

本研究提出了一种自监督预训练框架AD-L-JEPA，利用激光雷达数据减少自主驾驶系统对标注数据的依赖，显著提升了嵌入质量和标签效率，实验结果优于现有方法。

本研究提出了一种新的嵌入特定水印（ESpeW）机制，旨在解决嵌入即服务（EaaS）中的版权保护问题。该机制通过注入独特水印，增强了抵御去除攻击的能力，实验结果表明其在保持嵌入质量的同时，有效抵御激进的去除策略。

本报告介绍了开源多语言E5文本嵌入模型的训练方法和评估结果，提供了三种不同大小的嵌入模型，平衡了推理效率和嵌入质量。训练过程遵循英文E5模型的方法，包括对10亿个多语言文本对进行对比预训练和微调。引入了一种新的指令调整嵌入模型，性能与最先进英文模型相当。模型发布信息可在指定网址找到。

eCLIP是CLIP模型的增强版本，通过整合放射科医师眼动热图的专家注释，提高了多模态医学图像分析的学习效果。eCLIP在多个任务的评估中展示了嵌入质量的持续改进，证实了其在医学图像领域的多模态分析能力。