内容提要
英伟达不仅是GPU供应商,还是全球最大的开源AI模型发布者,覆盖推理、物理AI、机器人、医疗、自动驾驶等领域。其模型采用混合架构(Mamba+注意力)和MoE提升效率,并与自家GPU协同设计。英伟达开源模型、数据及训练方法,旨在推动AI生态发展,吸引更多客户使用其算力,并认为开放能促进安全与创新。
延伸解读
开放模型背后的商业逻辑
英伟达开源模型并非单纯利他,而是与其芯片业务深度绑定。通过开放模型,英伟达吸引开发者在其GPU上训练和部署AI,从而扩大算力需求。同时,开源让模型接受社区检验,帮助英伟达更准确地把握AI发展方向,为下一代芯片设计提供依据。这种“以开放促生态,以生态促硬件”的策略,是其长期增长的关键。
混合架构与硬件协同设计
英伟达模型采用Mamba与注意力混合架构,兼顾长上下文处理效率和精确信息检索,并通过MoE降低推理成本。更关键的是,其模型与自家GPU协同设计,如使用NVFP4 4位精度预训练,与Blackwell硬件深度适配。这种软硬协同设计,使模型在速度和能力上形成独特优势,也体现了后摩尔时代提升性能的新路径。
开源不止于权重
英伟达强调真正的开源不仅发布模型权重,还包括训练数据、后训练数据集、强化学习环境和训练配方。这种透明度让开发者能复现和定制模型,而不仅仅是使用。例如,其机器人数据集成为Hugging Face上下载量最高的数据集之一,衍生出大量社区微调模型。这种深度开源策略,增强了社区信任和生态活力。
开放生态的挑战与经验
英伟达在开源过程中总结出关键经验:持续发布比单次发布更重要,开发者体验决定模型能否被长期采用,以及选择社区信任的许可证(如OpenMDW)能减少摩擦。这些经验反映了开源AI项目的实际运营难点,也为其他机构提供了参考。英伟达计划进一步提前开放,让合作伙伴参与模型构建,以强化生态协作。
Q&A
英伟达在AI领域除了GPU还做了什么?
英伟达不仅是GPU供应商,还是全球最大的开源AI模型发布者,其模型在Hugging Face上被大量下载,覆盖推理、物理AI、机器人、医疗、自动驾驶等领域。
英伟达的Nemotron模型系列有哪些版本和特点?
Nemotron是英伟达的推理模型系列,2023年推出第一代,2024年发布340B参数版本,2025年推出混合架构版本,当前为Nemotron 3,有Nano、Super、Ultra三种尺寸,分别针对简单任务、中等推理和复杂任务。
英伟达的Cosmos模型是什么?有什么用途?
Cosmos是英伟达的物理AI世界模型,能生成物理上合理的视频、推理运动和因果,并产生机器人学习所需的动作数据。Cosmos 3是统一的全能模型,能生成场景、推理和预测,还引入了世界动作模型,可直接将预训练视频骨干转化为机器人策略。
英伟达的模型如何实现既快又强大?
英伟达采用混合架构(Mamba+注意力)和MoE(混合专家)提升效率,并与自家GPU协同设计,使用NVFP4 4位精度预训练。这些设计使模型在保持高性能的同时,训练和推理成本更低,速度更快。
英伟达为什么开源模型和数据?
英伟达开源模型和数据有两个原因:一是为了深入理解AI以设计更好的硬件,二是为了推动AI生态发展,吸引更多客户使用其算力。此外,开放也有助于安全,因为更多人能检查并发现问题。
英伟达在开源模型方面有哪些独特做法?
英伟达不仅发布模型权重,还发布训练数据、后训练数据、强化学习环境和训练配方,使团队能复现工作并训练自己的版本。此外,它还使用合成“角色”数据保护隐私,并采用社区信任的OpenMDW许可证。
英伟达如何利用一个统一的基础构建多个模型?
英伟达通过识别可复用的基础组件,如混合架构和Cosmos推理核心,在不同模型间共享。例如,Cosmos Reason被用作Isaac GR00T的推理核心,避免了重复建设。这种策略使小团队能高效产出多个模型。
英伟达在开源模型过程中学到了哪些经验?
英伟达学到:持续的项目比单次发布更重要;要简化开发者体验;选择社区信任的许可证(如OpenMDW);并计划更早开放,让合作伙伴参与模型构建。