本文研究了神经比例定律在自然语言处理中的应用，探讨了模型扩展对核心能力的影响。研究发现，减少模型大小会显著降低事实回忆能力，但对上下文处理影响较小。同时，提出了计算最优的扩展策略，显著提高了模型在复杂提示上的表现，并强调了利用中间检查点提高预测准确性的重要性。

本文研究了神经比例定律在自然语言处理中的应用，提出了SCALE框架，通过结合专用翻译模型和大型语言模型，显著提升了多语言神经机器翻译的效果，尤其在低资源环境中表现优异。此外，研究探讨了预训练数据选择对模型性能的影响，为未来模型开发提供指导。