GigaWorld-Policy-0.5——由 AutoResearch赋能的更快更强WAM:未来视觉状态仅为动作生成提供密集监督,而非动作生成的前提条件

GigaWorld-Policy-0.5——由 AutoResearch赋能的更快更强WAM:未来视觉状态仅为动作生成提供密集监督,而非动作生成的前提条件

💡 原文中文,约5800字,阅读约需14分钟。
📝

内容提要

GigaWorld-Policy-0.5是一种以动作为中心的世界动作模型:训练时利用未来视觉动态提供密集监督,推理时仅解码动作、不生成未来视频,从而降低计算开销。它采用混合Transformer架构,将视觉动态建模与动作生成分配给不同专家模块,在RTX 4090上推理时延约85毫秒。预训练结合动作条件世界建模与WAM训练,并用AutoResearch流水线自动搜索训练配置。实验表明,该模型在保留未来视觉监督优势的同时显著提升了推理效率。

🔎

延伸解读

训练与推理解耦:保留监督但降低部署开销

文章的核心思路是把未来视觉动态的角色限定在训练阶段:训练时用未来视频提供密集监督,推理时则只解码动作,不生成未来视频。这样既保留了WAM利用未来场景演化约束动作的优势,又避免了视频token比动作token昂贵得多所带来的计算负担。对读者而言,这意味着WAM的泛化收益不必以实时性为代价,但前提是训练时的掩码设计要防止未来信息泄漏到动作预测中。

MoT架构:总参数增加,推理只走动作通路

GigaWorld-Policy-0.5采用Mixture-of-Transformers,将视觉动态建模与动作生成拆分给不同专家模块。虽然总参数量增加,但推理时仅动作通路参与计算,从而减少实际开销,在RTX 4090上实现约85毫秒时延。这提示读者:评估此类模型不能只看总参数量,更要看推理时实际激活的路径;专家分工是兼顾训练监督与部署效率的关键设计。

混合预训练与AutoResearch:强化动作-视觉耦合

预训练阶段结合动作条件世界建模(AC-WM)与WAM训练,目的是让模型同时学习场景的普遍演变和由动作引发的未来变化,从而增强动作表征的可迁移性。此外,作者用基于智能体的AutoResearch流水线自动搜索训练配置,减少超参数调优的人工干预。读者可关注:这种混合训练是否真的提升下游策略学习,以及自动搜索得到的配置是否具有可复现性。

与Fast-WAM的设计取向差异

文章明确对比了Fast-WAM与GigaWorld-Policy-0.5:前者为回答“推理时生成未来视频是否有用”而刻意隔离视频与动作,保证实验结论干净;后者面向产品性能,把动作作为条件塞进预测任务,让视频训练顺带逼动作学好,收敛更快、成功率更高,还附带一个“给动作就能推演后果”的世界模型。代价是掩码和训练流程更复杂。读者应理解:两者差异源于研究目标与产品目标的不同,而非单纯的优劣。

❓

Q&A

GigaWorld-Policy-0.5 在推理时还需要生成未来视频吗?

不需要。它在推理阶段仅解码动作,不生成未来视频,从而避免昂贵的视频 token 计算,实现低时延闭环控制。

GigaWorld-Policy-0.5 的推理速度有多快?在什么硬件上测的?

在本地 NVIDIA RTX 4090 环境上实现了约 85 毫秒的推理时延。

GigaWorld-Policy-0.5 用了什么模型架构来兼顾训练和推理效率?

采用 Mixture-of-Transformers(MoT)架构,将视觉动态建模与动作生成拆分给不同的专家模块;推理时仅走动作通路,减少实际参与计算的部分。

GigaWorld-Policy-0.5 在预训练阶段采用了什么训练策略?

采用混合式的动作条件世界建模(AC-WM)与 WAM 训练策略,强化视觉动态与机器人动作之间的耦合,提升动作表征在下游策略学习中的可迁移性。

AutoResearch 在 GigaWorld-Policy-0.5 中起什么作用?

AutoResearch 是一个基于智能体的自动化流水线,用于系统搜索训练配置:自动发起试运行、监控验证指标、比较候选配置,并将有前景的设置提升为更长时间的训练,从而减少超参数调优的人工干预。

GigaWorld-Policy-0.5 与 GigaWorld-Policy 的主要区别是什么?

GigaWorld-Policy-0.5 继承了以动作为中心的设计(训练用未来视觉监督、推理仅解码动作),但升级为 MoT 架构、采用 AC-WM 与 WAM 混合预训练,并引入 AutoResearch 自动搜索训练配置,从而在保留训练优势的同时显著提升推理效率。

为什么 GigaWorld-Policy-0.5 要把动作和未来视觉建模耦合起来训练,而不是像 Fast-WAM 那样隔离?

因为两者目的不同:Fast-WAM 是做研究,需要隔离变量来回答“推理时生成未来视频有没有用”;GigaWorld-Policy-0.5 是做产品、追性能,它已接受“训练时学视频有用”的结论,于是把动作作为条件塞进预测任务中,让视频训练顺带逼动作学好,从而收敛更快、成功率更高,并额外获得一个“给动作就能推演后果”的世界模型。

🏷️

标签

➡️

继续阅读