如何在不造成AI蔓延的情况下扩展智能体应用

如何在不造成AI蔓延的情况下扩展智能体应用

💡 原文英文,约1500词,阅读约需6分钟。
📝

内容提要

企业规模化部署智能体面临集成重复、策略不一、成本上升等“AI蔓延”问题。Databricks提出选择、上下文与控制三大基础:Agent Bricks统一构建治理,Omnigent兼容不同框架,Unity Gateway集中管控模型、权限、成本与可观测性,使新智能体复用共享上下文与治理,避免重复建设。

🔎

延伸解读

AI蔓延的根源与共享基础

文章指出,当每个团队独立连接模型、数据和工具时,会出现重复集成、策略不一、成本上升和上下文碎片化等AI蔓延问题。Databricks提出选择、上下文和控制三大基础,通过Agent Bricks、Omnigent和Unity Gateway提供共享层,使新智能体能够复用现有治理和上下文,避免重复建设。

上下文复用的业务价值

销售和客服智能体可能都需要理解“活跃客户”的定义、产品归属和账户层级。如果各自重建这些业务概念,会导致同一概念在不同工作流中含义不一致。Agent Bricks基于Unity Catalog和Genie Ontology提供共享的受治理业务上下文,让团队可以复用而非重复创建,减少维护负担。

控制层如何匹配任务权限

当智能体从生成回答转向执行操作时,控制需求随之增长。例如处理客户退款的智能体,员工可能有广泛账户权限,但智能体只需订单详情、退款政策和特定交易权限。Unity Gateway提供集中控制平面,结合Unity Catalog和Databricks Sandbox,确保智能体的权限与任务匹配,并保留完整追踪。

可观测性超越最终回答

一个看似正确的回答可能隐藏了检索失败、错误工具调用或意外执行路径。Unity Gateway集中遥测数据,MLflow提供追踪和评估工作流,帮助团队重建应用如何得出结果,比较变更并识别回归。这种可观测性使团队能够基于生产行为持续改进质量、可靠性和成本。

❓

Q&A

什么是AI蔓延?它对企业有什么影响?

AI蔓延是指当每个团队独立构建智能体时,出现的重复集成、策略不一致、AI支出增加、上下文碎片化以及应用难以更改等问题。随着智能体数量增长,这些问题会加剧,导致基础设施重复建设,增加维护成本。

企业规模化部署智能体需要哪三大基础?

企业需要选择、上下文和控制三大基础。选择让团队能使用合适的模型、工具和框架;上下文让智能体能够使用受治理的企业数据和业务语义;控制确保权限、策略、评估、可观测性和成本管理在应用增长时保持一致。

Databricks的Agent Bricks、Omnigent和Unity Gateway分别有什么作用?

Agent Bricks是构建、治理和优化智能体队列的统一平台;Omnigent提供跨智能体框架的通用层,支持组合和切换不同框架构建的智能体;Unity Gateway集中管理模型、智能体、工具和技能的访问、成本控制和可观测性。

如何让智能体共享业务上下文,避免重复定义?

通过Agent Bricks的共享上下文层,基于Unity Catalog治理数据和AI资产,并利用Genie Ontology提供业务概念和关系的共同理解。Document Intelligence、AI Search和Agent Memory等能力可扩展上下文,使团队能跨应用复用受治理的业务上下文,而不是每次重新创建。

Unity Gateway如何帮助控制智能体的权限和成本?

Unity Gateway提供集中控制平面,跨模型、智能体、MCP服务器、工具和技能应用访问策略和护栏,管理预算和速率限制,控制可用的AI资产,并保留交互跟踪。结合Unity Catalog,控制能反映请求背后的身份、数据权限和上下文。

如何评估和调试智能体应用的行为?

Unity Gateway集中遥测数据,包括跟踪、使用量、成本和工具活动。MLflow提供跟踪和评估工作流,让团队检查应用行为,将代表性交互捕获到数据集,并评估提示、模型、工具或编排的更改,从而在全面推广前比较变更、识别回归并改进质量。

🏷️

标签

➡️

继续阅读