LLaMA 3：大模型之战的新序幕

文本数据扩展可能已达极限，易获取的网络资源已被充分利用。

通过挖掘互联网资源、搜寻图书馆藏书和使用合成数据，仍有可能获得新的文本数据。

多模态领域，尤其是统一的视频-语言生成模型，将成为规模扩展竞赛的新阶段。

视频数据虽然不能显著提升模型推理能力，但能增强模型与现实世界的联系。

从人类、人工智能和环境反馈中扩展强化学习是提升模型推理能力的前景路径。

LLaMA 3在MMLU等关键指标上表现优异，使用了大量训练词元。

文本数据扩展的极限可能已到，需探索新的数据来源以继续提升模型性能。

Common Crawl数据的挖掘和过滤标准的放宽是扩展文本数据的潜在方向。

合成数据的使用仍面临挑战，主要用于持续预训练和微调。

图书馆藏书的数据质量高，但版权问题可能限制其使用。

视频数据的扩展可能不会改善推理能力，但可以提升其他性能。

强化学习的探索和利用规模需要扩大，以提高模型的推理能力。

扩展统一的视频-语言生成模型面临设计和训练方法的挑战。

通过从反馈中进行迭代强化学习，生成类似于AlphaZero的智能体是提升推理能力的方向。

规模扩展竞赛的第二阶段已开启，未来将聚焦于多模态生成模型的竞争。