英伟达通过捐赠OpenShell及全新AI基础设施扩大开源承诺

英伟达通过捐赠OpenShell及全新AI基础设施扩大开源承诺

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

在KubeCon上,英伟达宣布将开源智能体安全运行时OpenShell捐给CNCF,成为沙箱项目,并参与谷歌主导的Agent Substrate框架,以在Kubernetes上大规模运行智能体。同时发布DSX AI工厂平台新组件NVIDIA Kubernetes Engine、Kubernetes Recipes和Snapshot,帮助团队在Kubernetes上部署、管理和扩展GPU基础设施,加快推理启动与恢复。

🔎

延伸解读

OpenShell 捐赠 CNCF 的意义

英伟达将 OpenShell 捐给 CNCF 并成为沙箱项目,意味着智能体安全运行时的治理权从单一厂商转向社区。OpenShell 通过确定性控制限制智能体使用工具、访问推理服务和执行工作负载的行为,且架构可扩展,能接入企业自有计算、推理提供商、凭证存储和监控工具。对于需要跨环境治理智能体的团队,这一捐赠可能降低对单一供应商的依赖,并借助全球安全专家的参与加速防护机制的完善。

Agent Substrate 如何解决智能体规模化运行

Agent Substrate 是谷歌主导、已进入 CNCF 沙箱的框架,英伟达参与贡献并确保其与 NVIDIA Dynamo 和 KAI Scheduler 协同工作。该框架的核心机制是在任务之间保留智能体环境,但在空闲时释放计算资源,通过共享池挂起和恢复环境,从而避免为每个会话维持专用算力。英伟达与谷歌还在合作集成 OpenShell 与 Agent Substrate,使企业能在多云和本地环境中统一安全治理智能体。

DSX 新组件对 AI 工厂运维的实际价值

英伟达为 DSX AI 工厂平台新增三个开源组件:NVKE 和 NVKR 提供在 GPU 基础设施上交付托管 Kubernetes 服务的构建块,自动化集群生命周期管理并提供签名、版本固定的镜像;Snapshot 则针对推理扩容慢的痛点,无需重新加载模型或预热即可在数秒内恢复检查点副本。设计合作伙伴 Crusoe 和 Saturn Cloud 的测试显示,工作负载就绪时间从约八分钟降至 31 秒,vLLM 启动时间从 2 至 8.5 分钟降至 6 至 34 秒。

生态整合与落地节奏需关注

NVKE 和 NVKR 目前处于公开预览阶段,已有多家基础设施平台和云服务商宣布集成计划,包括 Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster 以及 Firmus 和 SK Telecom。这意味着相关能力将逐步进入第三方产品,但预览阶段的成熟度和实际集成效果仍需观察。OpenShell 虽已有数百家组织使用并在不到一年内收到数万次贡献,但作为 CNCF 沙箱项目,其社区治理和长期演进方向也值得持续关注。

❓

Q&A

英伟达在KubeCon上宣布了哪些开源方面的举措?

英伟达宣布将开源智能体安全运行时OpenShell捐赠给CNCF,成为沙箱项目;参与谷歌主导的Agent Substrate框架;并发布DSX AI工厂平台的新组件:NVIDIA Kubernetes Engine、Kubernetes Recipes和Snapshot。

OpenShell是什么?它有什么作用?

OpenShell是英伟达开源的智能体安全运行时,用于控制和治理自主智能体。它通过确定性控制来限制智能体的行为,团队可以执行策略,管理智能体使用工具、访问推理服务和执行工作负载。其可扩展架构允许连接自己的计算、推理提供商、凭证存储和监控工具,实现跨部署环境的治理。

Agent Substrate如何帮助在Kubernetes上扩展智能体工作负载?

Agent Substrate是谷歌主导的开源框架,已进入CNCF沙箱。它能在任务之间保留智能体环境,并在智能体空闲时释放计算资源。通过在共享的智能体池中挂起和恢复环境,它让团队能够扩展智能体工作负载,而无需为每个会话保持专用计算运行。英伟达确保其与NVIDIA Dynamo和KAI Scheduler协同工作。

NVIDIA Kubernetes Engine和Kubernetes Recipes是什么?它们有什么用途?

它们是英伟达DSX AI工厂平台的新开源组件,目前处于公开预览阶段。它们提供在GPU基础设施上交付托管Kubernetes服务的构建块,自动化集群生命周期管理,并提供签名和版本固定的镜像。多家生态系统合作伙伴已计划集成这些能力。

NVIDIA Snapshot解决了什么问题?效果如何?

NVIDIA Snapshot解决了快速增加推理容量时模型加载和预热导致的延迟问题。这个开源模块化组件可以在几秒内恢复检查点副本,无需重新加载模型或预热,从而加快启动、恢复和弹性。设计合作伙伴Crusoe测试显示,工作负载就绪时间从约8分钟缩短到31秒;Saturn Cloud测试显示,vLLM启动时间从2到8.5分钟缩短到6到34秒。

英伟达捐赠OpenShell给CNCF有什么意义?

将OpenShell捐赠给CNCF使其成为沙箱项目,由构建它的组织共同治理,并得到全球安全专家的加强。这加速了开发并强化了安全保障,为开发者提供了共享基础,让他们能够塑造智能体安全的演进方向,促进更广泛的协作。

🏷️

标签

➡️

继续阅读