机器之心数据服务现已上线，提供高效稳定的数据获取，简化数据爬取流程。

机器之心数据服务现已上线，提供高效稳定的数据获取服务，帮助用户轻松获取所需数据。

微软亚洲研究院与清华、北大联合提出强化预训练（RPT），将强化学习深度融入大语言模型（LLM）预训练，提升模型的推理能力和下一个token预测准确度。实验结果显示，RPT-14B在多种任务上优于传统模型，展现出更强的推理能力和潜力。

本研究提出了一种新的自监督正样本采样技术（SSPS），有效克服了传统说话人验证方法的局限性。SSPS显著提高了验证性能，SimCLR-SSPS的错误率降低了58%，与DINO-SSPS表现相当。

本研究提出了一种新型自监督图表示学习方法Graffe，旨在解决扩散概率模型在图表示学习中的应用不足。该模型通过图编码器提炼源图，并指导扩散解码器去噪，从而在节点和图分类任务中实现领先性能。

本研究解决了共享单车系统中检测故障单车的难题，提出了一种新颖的自监督变压器框架（SSTransformer），有效结合了GPS轨迹和行程记录的时空特征。通过自监督预训练和后续的微调，该模型在真实数据集上的测试中显示出显著优于传统检测方法的性能，实现了高达97.81%的准确率，显著提高了共享单车的维护效率。

本研究提出了一种名为VCM的自监督视觉概念建模框架，旨在提高大型视觉-语言模型的效率。该方法通过隐式对比学习和视觉-语言微调，显著降低计算成本，同时在图像理解任务中保持优良性能。

本研究解决了医学成像中标签获取困难的问题，通过引入nn-MobileNet框架，采用BERT式自监督学习方法，利用大量未标记的视网膜图像进行预训练，以提高下游应用的性能。研究结果表明，此方法在阿尔茨海默病、帕金森病及多种视网膜疾病的识别中显著提升了表现，展示了在标签稀缺情况下，CNN的潜力。

本研究解决了当前大规模语言模型（LLM）推理技术对外部监督信号的依赖问题，提出了一种名为Genius的完全自监督自训练框架。通过引入逐步预见重采样策略和优势校准优化损失函数，Genius能够在没有外部辅助的情况下优化LLM，显著提升其推理能力，具有革命性的潜力。

本研究提出了一种自监督片段微调方法（SF²T），旨在提升视频大语言模型在细粒度理解方面的能力。通过利用视频特征进行训练，改善模型对视觉动态和细节的理解。同时，构建了新的基准数据集FineVidBench，以评估模型在场景和片段层面的表现，实验结果显示该方法显著提高了时空细节的捕捉和解释能力。

本研究提出了一种动态数据集修剪策略，以解决自监督学习在地球观察中的数据集策划不足问题，提升预训练数据集的多样性与平衡性，增强模型的迁移能力。

本研究针对文本识别变换器的预训练阶段提出了两种改进措施，从而解决了现有自监督学习方法对无标签数据的利用不足的问题。通过逐步增加掩蔽概率并修改损失函数，本研究的实验结果表明，该预训练方法在降低字符错误率方面有效，且在某些情况下，相较于迁移学习提升达30%。