BriefGPT - AI 论文速递 · 2024-11-14T00:00:00Z

SCAN: A Contrastive Pre-training Initialization Method for Data Efficiency

📝

内容提要

本研究提出了一种动态数据集修剪方法，解决了对比预训练中的数据效率问题。实验结果表明，该方法在多个下游数据集上优于传统静态选择方法。

🏷️

标签

下游数据集 动态修剪 实验结果 对比预训练 数据效率