Databricks
·
AI Gateway: A Governance Layer for Agentic AI
📝
内容提要
AI Gateway扩展了对AI代理的治理，支持多模型和系统的工作流程，确保数据访问和政策执行。新功能包括细粒度权限控制、审计日志和成本跟踪，提升了代理行为的可见性和灵活性。用户可快速配置LLM端点，确保安全和一致的治理。
🎯
关键要点
-
AI Gateway扩展了对AI代理的治理，支持多模型和系统的工作流程。
-
新功能包括细粒度权限控制、审计日志和成本跟踪，提升了代理行为的可见性和灵活性。
-
用户可以快速配置LLM端点，确保安全和一致的治理。
-
AI代理通过多步骤工作流程处理敏感数据，传统治理工具无法提供统一视图。
-
AI Gateway支持对MCP使用的治理，控制代理访问外部系统并跟踪数据使用情况。
-
细粒度权限和保护措施防止不当访问，确保代理执行用户的确切权限。
-
AI Gateway提供端到端的可观察性，满足财务、工程和安全团队的需求。
-
统一API支持无缝切换提供商，自动故障转移确保系统持续运行。
-
用户可以在支持的Databricks区域内开始使用AI Gateway，管理其GenAI堆栈。
❓
延伸问答
AI Gateway的主要功能是什么？
AI Gateway扩展了对AI代理的治理，支持多模型和系统的工作流程，提供细粒度权限控制、审计日志和成本跟踪。
如何确保AI代理的安全性和合规性？
AI Gateway通过细粒度权限和保护措施，确保代理执行用户的确切权限，防止不当访问。
AI Gateway如何提升代理行为的可见性？
AI Gateway提供端到端的可观察性，记录每个请求的身份、时间戳和调用细节，满足财务、工程和安全团队的需求。
用户如何快速配置LLM端点？
用户可以在几秒钟内设置新的LLM端点，选择模型并一次性配置治理。
AI Gateway如何支持多模型的使用？
AI Gateway的统一API支持无缝切换不同的模型和提供商，用户可以根据任务选择合适的模型。
AI Gateway的审计日志功能有什么用？
审计日志记录所有请求的详细信息，帮助追踪数据访问和确保政策执行的一致性。
➡️
