MINT-1T是一个新的大规模多模态数据集,包含超过一万亿个标记,比以前的开源多模态数据集规模增加了10倍。该数据集包含多种文本、图像和其他模态,可以训练更强大和能力更强的多模态模型。作者描述了数据集的构建过程,包括数据收集、筛选和预处理,以及在规模扩展方面面临的技术挑战。
华盛顿大学、Salesforce Research和斯坦福大学等机构联合构建了规模空前的开源多模态数据集MINT-1T,包含一万亿文本token和三十亿张图像。该数据集经历了多个步骤,包括数据收集、过滤和去重。实验结果显示,在MINT-1T数据集上训练的模型在多个基准任务上表现优于之前的数据集。这个超大规模的开源多模态数据集有望成为多模态大模型的起点。
完成下面两步后,将自动完成登录并继续当前操作。