GR00T 2——面向泛化、灵巧与适应性的机器人基模扩展:由Wan 2.1视频VAE、Cosmos-Reason1 VLM、MLP构成

GR00T 2——面向泛化、灵巧与适应性的机器人基模扩展:由Wan 2.1视频VAE、Cosmos-Reason1 VLM、MLP构成

💡 原文中文,约3900字,阅读约需10分钟。
📝

内容提要

英伟达提出GR00T 2世界-动作模型,联合预测未来视觉观测与机器人动作,在夹爪、灵巧手和仿人平台上实现通用操作。其核心是跨形态自适应,可将人类或UMI演示中的物理知识迁移到机器人,无需任务专用遥操作数据。模型支持少量示范快速适应和强化学习提升可靠性,并可通过CaP范式与WAM API实现高层代理编排、故障恢复和视觉目标引导。轻量版GR00T 2 Turbo采用高压缩视频表示降低时延,适合全身控制。

🔎

延伸解读

跨形态迁移的关键:联合预测未来观测与动作

GR00T 2 的 x-adaptation 并非简单的动作映射,而是让模型先“想象”目标机器人执行任务时场景会如何演变,再据此生成动作。这意味着人类演示或 UMI 数据中的物理知识,可以迁移到训练中未见过的“任务-场景-机体”组合上。对读者而言,这提示机器人技能获取可能不再完全依赖任务专用遥操作数据,但迁移效果仍取决于预训练数据的多样性与覆盖范围。

轻量版 Turbo 的取舍:时延优先于精细操作

GR00T 2 Turbo 保留 20 亿参数 Transformer 和联合世界-动作建模框架,但换用更高压缩率的 Wan 2.2 VAE,将空间压缩率从 8× 提升到 16×,大幅减少视频 token。在 Unitree G1 机载 Jetson Thor 上预测时间为 124 ms,适合全身控制;不过在灵巧操作任务上略逊于完整版 GR00T 2。这说明 Turbo 的定位是在任务性能与推理延迟之间取折中,而非全面替代完整模型。

部署门槛:摄像头映射、动作空间与后训练

文章明确指出,在一台新机器人上启用 GR00T 2 需要三步:将摄像头映射到头部视角和腕部视角,将动作表示为受支持的动作空间(或新增一个动作空间),并在目标任务演示数据上做后训练。这意味着“即插即用”仍以一定的工程适配为前提。读者应关注自身机器人形态与动作空间是否在支持范围内,以及所需演示数据的规模与质量。

代理式控制让基础模型接入高层推理

GR00T 2 通过 CaP 范式和 WAM API 支持代理式控制:高层代理可以编排操作技能、监控执行并从失败中恢复,也能用视觉目标引导和组合机器人行为。这为长时域复杂任务提供了一条将高层规划与底层物理智能衔接的路径。不过文章目前只描述了机制与方向,实际部署中的可靠性、故障恢复成功率等仍需结合具体任务验证。

❓

Q&A

GR00T 2 是什么?它和普通机器人控制模型有什么不同?

GR00T 2 是英伟达提出的世界-动作模型(WAM),由单一模型同时预测未来视觉观测和机器人动作。与只输出动作的模型不同,它联合建模场景演变与动作,使动作能顺应模型想象出的未来。

GR00T 2 的模型架构由哪些部分组成?

架构基于 Cosmos-Predict2.5-2B 视频扩散Transformer(20亿参数)。视频由冻结的 Wan 2.1 VAE 编码,语言指令由冻结的 Cosmos-Reason1 VLM 编码,机器人状态和动作通过具身形式特定的 MLP 映射到 Transformer 宽度,输出再由具身形式特定的解码器映射回动作。

GR00T 2 的跨形态自适应(x-adaptation)是什么意思?

跨形态自适应指模型能将一种机体形态(如人类演示或UMI数据)中学到的物理知识迁移到另一种形态(如机器人),即使训练中从未见过该“任务-场景-机体”组合。它通过联合预测未来观测与动作,想象目标机器人执行任务的过程并生成相应动作。

GR00T 2 如何支持高层代理进行长时域操作和故障恢复?

GR00T 2 通过两项互补能力支持代理式控制:一是 code-as-policy(CaP)范式,让高层代理编排操作技能并从执行失败中恢复;二是 WAM API,使代理能通过视觉目标引导和组合机器人行为。

GR00T 2 Turbo 和标准版 GR00T 2 有什么区别?

Turbo 是轻量变体,保留20亿参数Transformer,但用更高压缩率的 Wan 2.2 VAE(空间压缩16×)替代原VAE,大幅减少视觉token,从而加快训练和推理。它在灵巧操作上略逊于标准版,但显著优于基线,适合全身控制等低时延场景。

在一台新机器人上部署 GR00T 2 需要做哪些步骤?

实践者需要将机器人摄像头映射到头部视角和腕部视角,将动作表示为受支持的动作空间(或新增一个动作空间),并在目标任务的演示数据上对 GR00T 2 进行后训练。演示数据可以很少,甚至可用人类或UMI演示替代遥操作。

🏷️

标签

➡️

继续阅读