本论文介绍了SeeD，一种高效的推理框架，能够同时优化运行速度和GPU内存管理。通过预定的推测执行和按轮次预定的策略，SeeD能够高效处理思维生成和状态评估的多次迭代。实验评估表明，SeeD具有卓越的加速性能，为训练无关的预测解码中的批量推理提供了可行的路径。