本文探讨了利用过滤和去重的网络数据训练大型语言模型的有效性，提出了 EvalWeb 工具链和高质量中文文本数据集 ChineseWebText。研究综述了多个语言和领域的大型语言模型数据集，旨在为研究人员提供全面的文本数据集视角，并探讨了通过搜索引擎增强模型性能的方法及多语言微调数据集的构建，推动语言模型的研究与发展。