领域专业化与模型规模之间的相互作用：以法律领域为案例研究

本研究解决了在训练语言模型时，领域专业化与模型规模之间的关系这一问题。通过持续预训练，研究提出了一种计算高效的训练方式，并揭示了随着模型规模的增大，专业模型与通用模型之间的计算效益差距不断扩大。这一发现为不同模型规模和领域的训练提供了参考。