内容提要
英伟达扩展机密计算,推出机密裸金属部署选项,使前沿模型构建者能在第三方云、新云及企业基础设施上安全运行敏感工作负载,同时掌控模型与数据。该方案提供裸金属、容器和虚拟机三种部署模式,并扩展至Grace Blackwell、Rubin系统及DSX OS。Cohere、谷歌云等将采用,支持全球安全扩展训练与推理。
延伸解读
三种部署模式对应不同信任边界
英伟达将机密计算收敛为裸金属、容器和虚拟机三种部署选项,分别面向裸金属基础设施、Kubernetes 环境和虚拟化环境。文章强调,组织可据此把部署模式与自身信任边界和运行要求匹配。对模型构建者而言,这意味着不必只依赖单一形态,而可按工作负载的隔离需求选择相应模式,同时仍使用英伟达加速计算基础设施。
机密裸金属让模型方保留软件栈控制权
机密裸金属的核心变化在于,前沿模型构建者可在第三方云、新云及企业基础设施的专用实例上运行敏感工作负载,并保留对模型和数据的控制。文章称,新平台安全控制可保护传输中数据、度量平台完整性并实施硬件级访问限制,使模型方能够拥有并运营包括主机与平台基础设施软件在内的定制软件栈。这为需要强隐私保护的高价值工作负载提供了更多部署选择。
生态落地已有具体合作方与系统范围
文章给出较具体的采用信号:Cohere 计划将机密裸金属集成进 Cohere Model Vault,把硬件根植的安全延伸至 GPU;谷歌云将把支持扩展至基于 GB300 NVL72 的 A4X Max 实例。平台支持范围还扩展至 Grace Blackwell NVL72,以及基于 x86 的 HGX Rubin NVL8 和 DGX Rubin NVL8。CoreWeave、微软 Azure 基础设施、Nebius 等也被列为支持相关部署的服务商。
DSX OS 与系统伙伴决定落地广度
除芯片与系统外,文章指出 NVIDIA DSX OS 将支持所有机密计算模式,为云提供商构建和运营支持机密工作负载的 AI 工厂提供软件基础。思科、戴尔、HPE、联想、超微和 Bull 等全球系统伙伴将通过 NVIDIA-Certified Systems 支持这些能力。对读者而言,这意味着机密计算能否从单点能力走向规模化部署,取决于操作系统参考架构与系统集成伙伴的同步跟进。
Q&A
英伟达机密计算新推出的机密裸金属部署选项是什么?
机密裸金属是英伟达机密计算的新部署选项,允许前沿模型构建者在专用第三方基础设施上运行敏感工作负载,同时保留对模型和数据的控制权。它提供平台安全控制,保护传输中的数据、测量平台完整性并实施硬件级访问限制。
英伟达机密计算现在支持哪几种部署模式?
英伟达机密计算提供三种部署选项:机密裸金属用于裸金属基础设施,机密容器用于Kubernetes环境,机密虚拟机用于虚拟化环境。组织可以根据信任边界和运营需求选择合适的模式。
机密裸金属如何帮助模型构建者扩展全球业务?
机密裸金属为支持的提供商提供路径来服务需要强模型和数据隐私保护的高价值工作负载。对模型构建者而言,扩展的生态系统提供了更多地理、主权和运营选项,以在全球范围内扩展训练和推理。
哪些公司已经宣布支持或采用英伟达机密计算?
Cohere计划将机密裸金属集成到Cohere Model Vault中;谷歌云将支持扩展到由NVIDIA GB300 NVL72系统驱动的A4X Max实例。此外,CoreWeave、Firmus、GMI Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale和Vultr等支持机密计算部署。
英伟达机密计算在硬件平台方面有哪些扩展?
支持现已扩展到NVIDIA Grace Blackwell NVL72,将机密计算带到NVL72机架级系统,以及基于x86的NVIDIA HGX Rubin NVL8和NVIDIA DGX Rubin NVL8系统。此外,NVIDIA DSX OS将支持所有机密计算模式。
英伟达机密计算的核心安全机制是什么?
英伟达机密计算使用硬件根植的隔离和加密认证来帮助保护执行期间的模型和数据。它通过可信执行环境将硬件根植的安全扩展到GPU,保护内存中和互连间的数据。