LLM360是Petuum与MBZUAI联合推出的开源大型语言模型项目，旨在提升开源代码的透明度。该项目发布了13个开源模型和一个名为TxT360的预训练数据集，包含超过15万亿个token，提供高质量、多样化的数据，帮助开发者更高效地创建大型语言模型。TxT360在Hugging Face上排名第一，具备丰富的元数据和详细的处理步骤，为LLM开发者提供了重要资源。