内容提要
英伟达发布开放智能体安全平台,Anthropic参与合作。Claude托管智能体将凭证存入保险库,智能体无法查看;英伟达开源OpenShell,用于控制智能体的可执行与访问范围。两者分层防护,可独立执行限制,企业可审查智能体行为并确认限制生效。托管智能体现已可用,OpenShell以Apache 2.0许可开源。
延伸解读
分层防护:模型内外的双重保险
文章强调,AI智能体的安全不能只依赖模型内部的防护。Claude托管智能体与英伟达OpenShell在模型之外增加限制,且各层独立执行,不依赖单一层。这种模块化设计让企业能按需采用,即使某一层失效,其他层仍能提供保护,从而降低整体风险。
凭证隔离与审计追踪:降低敏感信息泄露风险
Claude托管智能体将密码和访问密钥存放在独立保险库,智能体本身无法查看。同时提供审计追踪,记录每个智能体的操作,并集成企业现有访问控制。这有助于企业监控智能体行为,在出现异常时快速追溯,减少凭证泄露和内部误用的可能。
OpenShell的默认拒绝与策略证明
OpenShell采用默认拒绝策略,除非规则明确允许,否则阻止所有操作。它检查智能体尝试使用的每个工具,并对文件、网络连接和数据访问应用规则,所有允许或阻止的决策都会被记录。团队可从窄权限开始,审查日志后逐步收紧,策略证明器还能用数学证明确认智能体在规则下的可达范围。
企业落地:从试点到多部门部署
文章列举了Notion、Rakuten和Asana的使用案例。Notion让团队在 workspace 内委托工作,工程师用于交付代码,其他员工生成网站和演示文稿;Rakuten在工程、产品、销售、营销和财务部署专家智能体,每个一周内上线;Asana构建AI队友,与人在项目中协作。这些案例表明托管智能体已可用于实际生产环境。
Q&A
英伟达和Anthropic合作推出了什么?
英伟达发布了开放智能体安全平台,Anthropic参与合作,为智能体栈增加安全和控制层。
Claude托管智能体如何保护凭证?
凭证存储在独立的保险库中,智能体永远看不到它们。
英伟达OpenShell的主要功能是什么?
OpenShell是开源安全运行时软件,用于管控和监控AI智能体行为,执行策略,默认阻止一切除非规则允许,并记录所有决策。
企业如何确保智能体行为符合限制?
企业可以使用托管智能体和OpenShell,限制智能体行为,审查其操作,并通过策略证明器确认限制生效。
Claude托管智能体包含哪些主要功能?
包括生产级智能体(安全沙箱、认证、工具执行)、长时间自主会话、多智能体编排、可信治理(范围权限、身份管理、执行追踪)。
有哪些公司使用了Claude托管智能体?
Notion、Rakuten和Asana等公司使用托管智能体,用于代码交付、并行任务、专业智能体部署等。
Claude托管智能体和英伟达OpenShell的可用性如何?
托管智能体现已可用,可在自控沙箱或托管提供商中运行;OpenShell以Apache 2.0许可开源,可在GitHub和英伟达开发者资源页面获取。