内容提要
英伟达与微软在Ignite大会上宣布扩大全栈合作:Azure开始部署英伟达Vera Rubin NVL72系统,并将机密计算扩展至裸金属和机架级AI基础设施,同时通过MaxLPS提升能效。微软Foundry新增英伟达Nemotron开放模型及定制训练与托管计算服务,EY借此将采购记录分类准确率提升55%、成本降低15倍。双方还将AI推向边缘和本地环境,支持Azure Local、Jetson平台及RTX Windows PC,并加速微软自身模型与服务。
延伸解读
从云端到PC:AI部署的层级化扩展
文章显示,英伟达与微软的合作正从Azure数据中心延伸到边缘设备和Windows PC。Azure部署Vera Rubin NVL72系统,Azure Local支持RTX PRO 6000 Blackwell GPU和Jetson平台,RTX Windows PC则展示本地大模型体验。这种分层意味着企业可根据数据敏感性和实时性需求,选择在云端、本地或终端运行AI,而非将所有负载集中到云端。
机密计算向裸金属和机架级延伸的意义
双方正将机密计算扩展至裸金属和机架级AI基础设施,并借助英伟达的认证机制,让客户在释放敏感模型、数据或密钥前验证计算环境。对于处理专有或受监管信息的企业,这有助于在更大规模的AI工厂中维持数据保护,但文章未说明具体性能开销或可用时间,实际部署时需关注这些细节。
开放模型定制:EY案例的启示与局限
EY利用Microsoft Foundry的Programmed Training微调英伟达Nemotron开放模型,在采购记录分类任务上准确率提升55%、成本降低15倍。这一案例表明,针对特定业务定制开放模型可能比直接使用专有前沿模型更经济。但该结果基于EY自身的评估数据集,其他企业需结合自身数据验证,不能直接套用。
边缘与本地AI的落地场景
Azure Local将支持Nemotron 3.5,并扩展至Jetson Thor和Orin平台,面向机器视觉、机器人等工业应用;Foundry Local还引入Cosmos等物理AI模型。同时,Windows 365 Cloud PC将获得Direct Stream能力,支持最多两路4K 60帧串流,有限预览已开放,公开预览计划于2027年初。这些进展表明AI正逐步进入本地和边缘环境,但部分功能仍处于预览阶段。
Q&A
英伟达和微软在Ignite大会上宣布了哪些主要合作内容?
双方宣布扩大全栈合作:Azure开始部署英伟达Vera Rubin NVL72系统,并将机密计算扩展至裸金属和机架级AI基础设施;通过MaxLPS提升能效;微软Foundry新增英伟达Nemotron开放模型及定制训练与托管计算服务;将AI推向边缘和本地环境,支持Azure Local、Jetson平台及RTX Windows PC;并加速微软自身模型与服务。
Azure上的英伟达Vera Rubin NVL72系统能用来做什么?
Vera Rubin NVL72系统在Azure数据中心运行,为要求严苛的推理、代理式应用以及大规模模型训练和推理提供基础设施。
英伟达和微软如何保护AI工作负载中的敏感数据?
双方合作将机密计算扩展至裸金属和机架级AI基础设施,帮助在模型和数据被处理时提供保护。英伟达机密计算和认证可帮助客户在释放敏感模型、数据或密钥前验证计算环境。
EY使用微软Foundry和英伟达Nemotron模型取得了什么效果?
EY使用Microsoft Foundry中的Programmed Training调整英伟达Nemotron开放模型,用于分类企业采购记录,在其评估数据集上准确率提升55%,与专有前沿模型相比成本降低15倍。
英伟达和微软如何将AI部署扩展到边缘和本地环境?
Foundry Local扩展支持Nemotron 3.5,将推理、编码和工具使用代理能力带到Azure Local环境;Azure Local将支持硬件合作伙伴的RTX PRO 6000 Blackwell GPU,并扩展到Jetson Thor和Jetson Orin边缘AI平台,支持机器视觉、机器人等工业应用;物理AI模型Cosmos也被引入Foundry Local。
微软自身如何使用英伟达技术加速其模型和服务?
微软AI使用英伟达Dynamo在训练后阶段支持强化学习 rollout 推理,Dynamo协调大规模GPU集群上的推理,优化性能并管理请求、模型更新和故障恢复;微软还使用英伟达RTX PRO 6000 Blackwell GPU加速Bing搜索模型。
英伟达Nemotron 3.5系列在微软Foundry中提供哪些模型?
Nemotron 3.5 Super面向跨编码、研究和业务工作流的长时间运行代理;Lightning支持需要快速响应和工具使用的应用;Nemotron Embed和Rerank帮助代理查找相关信息;Nemotron Parse从文档中提取结构化信息;Nemotron Content Safety检测有害内容。Nemotron 3.5 Bolt和Transcribe即将推出。
英伟达和微软在科学AI研究方面有哪些合作?
英伟达BioNeMo Agent Toolkit和ALCHEMI Toolkit扩展至Microsoft Discovery目录,将生命科学、药物发现以及材料与化学科学模型引入微软的代理式研究平台。BioNeMo Agent Toolkit帮助科学家用自然语言在Microsoft Discovery中运行计算生物学工作流,初始集成使用与华盛顿大学蛋白质设计研究所合作开发的RFD4-Proteina模型生成候选蛋白质结构和氨基酸序列。