本研究提出了SkyLadder上下文窗口调度策略，旨在提高LLM预训练中长上下文窗口的效率。实验结果显示，SkyLadder在基准测试中提升了模型性能，并提高了22%的训练速度，显著优化了预训练效率。