内容提要
NVIDIA推出开放世界模型Cosmos 3,支持物理AI开发,涵盖机器人、自动驾驶和视觉AI。该模型基于混合变换器架构,提供Super、Nano、Edge三种版本,在多项基准测试中排名第一。开放权重和Omniverse库帮助团队定制训练,多家企业已采用,推动物理AI生态发展。
延伸解读
开放权重为何对物理AI至关重要
物理AI的部署高度依赖特定场景,每个团队都有独特的机器人、传感器和运行环境。通用模型无法直接适配这些差异,因此开放权重和允许修改的许可证成为实际需求。NVIDIA Cosmos 3采用Linux基金会的OpenMDW 1.1许可证,允许团队在自有数据和硬件上进行后训练,这降低了定制门槛,使物理AI系统能更贴合实际应用。
Omniverse与OpenUSD如何减少重复工作
物理AI开发不仅需要模型,还需要仿真环境来生成数据和测试策略。NVIDIA Omniverse库和OpenUSD框架提供了构建仿真就绪世界的工具,支持数字孪生和合成数据生成。通过复用和交换3D数据,团队在资产、传感器配置或环境条件变化时,无需重复构建,从而显著提升开发效率。
Cosmos 3的三种版本定位
Cosmos 3提供Super、Nano和Edge三个版本,分别面向高保真世界建模、高效推理与后训练、以及边缘设备部署。Edge版本可运行于RTX、DGX和Jetson平台,适合机器人策略部署。这种分层设计让开发者根据算力和场景需求选择合适模型,兼顾性能与效率。
基准测试第一的含金量
文章提到Cosmos 3在多个基准测试中排名第一,包括Artificial Analysis、PAI-Bench、Physics-IQ和RoboLab。这些测试覆盖文本到图像、图像到视频、世界生成和机器人策略等任务,表明其在生成质量和物理合理性上具有竞争力。但基准测试结果仍需结合具体应用场景验证,实际效果可能因任务而异。
Q&A
NVIDIA Cosmos 3是什么?
NVIDIA Cosmos 3是一个开放世界基础模型系列,基于混合变换器架构,支持物理AI开发,包括视觉推理、世界生成和动作预测,可用于机器人、自动驾驶和视觉AI。
Cosmos 3有哪些版本?分别有什么特点?
Cosmos 3提供三个版本:Super(64B)用于高保真世界建模,Nano(16B)用于高效推理和后训练,Edge(4B)用于设备端视觉推理和机器人策略部署,可运行在RTX、DGX和Jetson等平台。
Cosmos 3在哪些基准测试中排名第一?
Cosmos 3在Artificial Analysis的开放权重文本到图像和图像到视频生成、PAI-Bench的世界生成、Physics-IQ的图像到视频类别、RoboLab的机器人策略以及VANTAGE-Bench的视觉理解(Super版本)中均排名第一。
为什么物理AI需要开放世界模型?
物理AI需要理解物理环境并预测后果,而收集真实数据困难且昂贵。开放世界模型可以生成物理上合理的合成数据、模拟未来状态,并提供可定制的基座,帮助团队针对特定机器人、车辆或传感器配置进行后训练,从而解决数据稀缺和泛化问题。
Cosmos 3使用什么许可证?对开发者有什么好处?
Cosmos 3采用Linux基金会的OpenMDW 1.1许可证,允许团队在自有数据和硬件上进行后训练,这使模型定制成为可能,是开放性的实际体现。
哪些公司已经采用了NVIDIA Cosmos?
在机器人领域有Doosan Robotics、LG Electronics、Samsung Electronics和Skild AI;自动驾驶领域有Li Auto、Xiaomi和Afari;视觉AI领域有Centific、Fogsphere、Linker Vision、Milestone Systems和Yuan。
NVIDIA Omniverse在物理AI开发中扮演什么角色?
Omniverse库提供预构建能力,帮助开发者构建仿真就绪的环境,结合OpenUSD框架,用于训练、测试和验证物理AI系统,减少资产和配置变化时的重复工作。
Cosmos 3如何帮助开发者进行模型定制?
开发者可以下载Cosmos 3的开放权重,使用自己的数据和硬件进行后训练,并利用Omniverse库生成仿真环境,从而针对特定机器人、传感器或任务进行专门化。