本文探讨大模型训练中算力分配的核心问题：模型参数与训练数据应如何配比。Kaplan 研究建议偏重模型规模，而 Chinchilla 研究通过三种方法证明两者应等比例增长，并指出前者因学习率调度设计缺陷导致结论偏差。文章还讨论了推理成本、数据受限等现实约束对最优配比的影响，以及相关复现争议。

京东广告检索平台是一个在线广告检索系统，通过算力分配和优化实现了业务收益最大化。系统采用分布式执行图和算子化设计等技术，解决了海量数据和有限算力之间的矛盾。通过深度学习和层次索引提升了召回和评分准确性和效率。具备快速稳定的迭代能力，助力京东广告业务的发展。