Kimi推出的检查点引擎中间件可在20秒内更新万亿参数，支持高效的模型权重更新。该引擎通过两阶段流水线简化了训练与推理的解耦，优化了启动时间，提高了系统稳定性和效率。

本研究提出了CORAL框架，解决了推测解码技术在训练与推理间的不一致性问题。通过跨步骤表示对齐，提升了多步训练的一致性，显著提高了推测草拟性能，并引入参数选择机制以减少解码延迟，实验证明其在效率和准确性上优于现有技术。