Nebius专家Jin指出,AI智能体强化学习后训练中推理常成瓶颈。应将推理引擎视为优化器的一部分,以“可训练批次时间”衡量效率,管理策略滞后而非追求零滞后。数据与环境占大部分工作,需可复现环境、可靠验证器及难度适中的任务。基础设施决定迭代速度,应独立扩展CPU与沙箱容量,避免昂贵GPU等待廉价容器。
Runway发布实时视频生成研究,提出自回归因果扩散与两阶段蒸馏路线,使模型逐帧流式输出,将创作从等待转为即时执导。技术分教师强制与学生强制两步,蒸馏先离线后在线,并采用递增序列长度课程训练。实时生成使计算瓶颈转向推理,可推动交互式媒体与智能体模拟等应用。
完成下面两步后,将自动完成登录并继续当前操作。