机密AI如何在数据所有者与模型所有者之间划分控制权——并为双方开启新机遇
内容提要
企业AI面临信任与控制难题：敏感数据不能外流，模型权重也需保护。机密AI通过加密计算、硬件隔离和密钥分离，让数据与模型在受控环境中运行，双方均不失控。VAST DataEnclave等方案整合模型、应用与数据平台，兼顾安全、可观测性与成本可控，为代理式AI落地提供基础。
延伸解读
机密AI如何平衡数据与模型的双向控制
企业AI面临两难：敏感数据不能外流，模型权重也需保护。机密AI通过硬件隔离执行环境，让数据和模型权重在加密状态下运行，仅释放给经认证的工作负载。独立密钥控制确保企业掌握数据密钥，模型提供方掌握模型密钥，基础设施运营商无法访问任何一方。这种架构解决了双方互不信任的僵局，使先进模型能安全用于敏感数据。
代理式AI对权限控制提出更高要求
随着AI代理自主性增强，它们需要访问更多数据、系统和工具，且人工干预更少。文章指出，必须限制代理能查看和操作的范围。机密AI提供的密钥分离和硬件隔离，结合代理沙箱和可观测性，能记录代理访问了哪些数据、做了什么操作。若无法为当前模型建立强隐私和治理保证，未来部署代理将更加困难。
成本可控性：从按令牌计费到自有基础设施
托管模型按令牌消耗计费，预算难以预测，尤其当代理循环和低效模型选择导致用量失控时。客户控制的基础设施提供更明确的容量和成本基础，企业可围绕自有或已预算的GPU集群规划，避免无限制的令牌账单。集群吞吐量上限也帮助理解处理能力。模型提供方可按令牌、任务或许可证定价，企业则能更清晰掌握总运营成本。
机密AI需融入整体平台而非孤立附加
机密AI保护推理过程中的数据和模型权重，但生产环境是动态系统，数据在存储、数据库、GPU、网络、应用和代理间流动。因此不能将机密AI附加到碎片化堆栈上，而需将模型、数据和基础设施作为整体保护。文章建议跨存储、网络和计算建立单一管理界面，并强调可观测性、数据级策略和正确性必须协同工作，才能确保系统可运营、可监控和可改进。
Q&A
企业AI在数据隐私和模型保护方面面临哪些核心挑战？
企业需要让AI模型访问敏感数据（如患者记录、客户财务信息或知识产权），但数据不能离开自有环境。将数据发送到云或SaaS服务会跨越外部网络，并在其他组织的基础设施上处理，引发控制、问责和暴露风险。同时，模型构建者需要保护其模型权重和软件知识产权，不愿将其置于客户、基础设施运营商或攻击者可访问的环境中。这种双向信任缺失导致僵局。
机密AI是如何工作的？它用了哪些关键技术？
机密AI通过多种技术协同工作：静态和传输加密保护存储和移动中的数据；机密计算利用硬件隔离的执行环境创建受保护的安全区，数据和模型权重在释放给批准的工作负载前保持加密；加密认证验证请求访问的硬件、虚拟机、软件和配置后才释放密钥；模型构建者可以用特定机密虚拟机的公钥加密模型，只有该虚拟机的私钥能在受保护内存中解密，使客户能使用模型而无法访问权重；独立密钥控制确保企业控制数据密钥，模型构建者控制模型密钥，基础设施运营商不控制任何密钥。
机密AI如何平衡数据所有者和模型所有者的控制权？
机密AI通过独立密钥控制实现平衡：企业保留对其数据密钥的控制，模型构建者保留对其模型密钥的控制。在受保护环境中，模型权重和数据保持加密，直到释放给经认证的工作负载。模型构建者可以用特定机密虚拟机的公钥加密模型，只有该虚拟机的私钥能解密，因此客户可以使用模型但无法访问其权重。基础设施运营商在运行时无法控制任何一组密钥。这样双方都不需要放弃控制权。
VAST DataEnclave是什么？它提供了哪些价值？
VAST DataEnclave是VAST AI操作系统的一项能力，于9月22日推出，旨在将模型、应用层和数据平台整合到客户控制的运营条件下。它保护企业和模型构建者双方：客户保留对其基础设施和数据密钥的控制，模型提供商可以在不交出底层知识产权的情况下提供软件。它通过与世界级模型构建者（如Cohere、Deepgram、Factory、Fundamental、TwelveLabs）以及基础设施和安全提供商（如Nvidia、CrowdStrike、Fortanix、Nscale、Cisco、Supermicro）合作，弥补信任和控制差距。
机密AI如何影响企业的AI成本管理？
机密AI改变了成本对话，但不一定让AI更便宜。托管模型可能因令牌消耗随使用模式、代理循环、模型架构和工作负载量变化而难以预测预算。客户控制的基础设施为企业提供更明确的容量和成本基础：可以围绕自有或已预算的GPU集群进行规划，而不是让低效模型选择或不受控的代理活动产生无上限的令牌账单。集群还对吞吐量施加自然上限，帮助组织了解基础设施在给定时间内能处理多少工作。模型提供商可以按令牌、任务或许可证定价，而企业能更清晰地了解总运营成本。
为什么机密AI不能简单附加到现有碎片化堆栈上？
因为真实世界的AI系统是数据在存储、数据库、GPU、网络、应用和代理之间移动的活环境。机密AI在推理期间保护数据和模型权重，但这只是生产挑战的一部分。企业需要将模型、数据和连接它们的基础设施作为一个系统来保护。正如Horev所说：“你需要在平台的多个层面构建安全性”，并有人负责快速更新受损组件。机密性只有在系统能够被操作、监控和改进时才有用。
在代理式AI时代，机密AI为什么更重要？
随着AI变得更加代理化，代理需要访问更多数据、系统和工具，并可能在更少人工干预下行动。Horev指出：“代理式AI的世界发展极快，我们需要限制代理能看到和做什么。”那些无法为当今模型建立强大隐私和治理保证的组织，将来更难安全部署代理。代理沙箱可以限制代理能触及的系统和工具，数据平台可观测性可以记录它访问了哪些数据、用数据做了什么以及如何与下游系统交互。
企业如何确保机密AI系统的可观测性和可操作性？
企业需要跨存储、网络和计算的“单一管理平台”，以便团队看到正在发生什么并保持低解决时间。例如，如果数据中心网络端口间歇性故障，代理可以帮助识别根本原因，前提是它能访问正确的运营数据并有严格控制的权限。这些权限应管理它可以检查的基础设施、可以检索的数据以及可以采取的行动。对于监控AI工作负载，团队需要在不暴露客户数据或模型权重的情况下了解性能、故障和访问模式。代理沙箱可以限制代理能触及的系统和工具，数据平台可观测性可以记录数据访问和使用情况。评估因此成为生产纪律的一部分。
