内容提要
Databricks发布Unity AI Gateway通用版,旨在统一管理企业AI代理和模型,解决成本、控制与选择问题。该网关提供成本归属、预算限制、智能路由和治理功能,支持多模型选择,已处理超千万亿令牌,客户包括Rivian、Asana等,确保AI扩展安全高效。
延伸解读
成本控制的关键:智能路由与预算上限
Unity AI Gateway 通过智能路由(Smart Routing)在模型间动态分配请求,根据质量、成本、性能等因素选择最合适的模型,从而在保证质量的同时优化支出。此外,团队可以设置预算和硬性支出上限,防止成本失控。这种机制让企业既能利用前沿模型,又能避免不必要的开支,实现“价值最大化”而非单纯的“令牌最大化”。
统一治理:数据与AI安全的一体化
Unity AI Gateway 与 Unity Catalog 深度集成,将数据治理和AI治理统一到一个平台。它通过身份、权限、血缘和审计功能,确保代理访问敏感数据时受到严格管控,并记录所有操作。这种一体化方法避免了在多个系统间拼凑安全方案,降低了数据泄露风险,尤其适合处理PII等敏感信息的企业。
开放生态:避免供应商锁定
Unity AI Gateway 支持多种模型提供商(如Anthropic、OpenAI、Gemini等)和外部代理、MCP服务器,通过单一API即可访问。这种开放性让企业能够灵活选择最适合的工具,无需重建治理体系。同时,它允许企业保持“编码代理无关”,工程师可以自由选择工具,而管理层仍能集中监控和管控,平衡了灵活性与可控性。
Q&A
Unity AI Gateway 是什么?
Unity AI Gateway 是 Databricks 推出的统一 AI 网关,用于集中管理企业中的 AI 代理和模型,提供成本归属、预算限制、智能路由和治理功能,支持多模型选择,确保 AI 扩展的安全与高效。
Unity AI Gateway 主要解决哪些企业痛点?
它解决企业在 AI 应用中的成本、控制和选择问题,例如缺乏 AI 支出的可见性、难以实时阻止成本失控、无法统一管理多个 AI 工具和代理,以及缺乏跨平台的治理和安全策略。
Unity AI Gateway 如何帮助企业控制 AI 成本?
它提供端到端的可观测性和细粒度的成本归属,支持按模型、提供商、团队和应用追踪支出;同时允许设置主动预算和硬性支出上限,并通过智能路由将请求动态分配给最合适的模型,以优化成本。
Unity AI Gateway 的智能路由功能是如何工作的?
智能路由(Beta)根据质量、成本、性能、可用性和预算等因素,动态将每个请求路由到最合适的模型,将最强大昂贵的模型保留给需要它们的任务,而将其他工作路由到更高效的选项,从而最大化 AI 支出的价值。
Unity AI Gateway 如何与 Unity Catalog 协同实现数据与 AI 的统一治理?
Unity Catalog 提供身份、权限、血缘和审计,管理对数据和 AI 资产的访问;Unity AI Gateway 则在运行时强制执行防护措施和上下文策略。两者结合,企业可以在一个地方治理数据和 AI,无需拼凑多个系统。
Unity AI Gateway 支持哪些模型提供商?
它原生支持访问前沿模型,包括 Anthropic、OpenAI、Gemini、Kimi、GLM 等,通过单一查询 API 即可使用,方便企业灵活切换模型。
Unity AI Gateway 有哪些客户案例?
已有数千家客户使用,包括 Rivian、Asana、Edmunds、Zepto、STRABAG SE、OnePay、Magnite 等,这些客户用它来管理 AI 支出、治理和安全性。
Unity AI Gateway 的可用性如何?
Unity AI Gateway 现已正式发布(GA),智能路由功能处于 Beta 阶段,用户可通过联系账户团队参与 Beta 测试。