Databricks
·
Unity AI Gateway的新功能：AI代理和MCP的服务政策、安全防护、可观察性和成本控制
内容提要
Unity AI Gateway是一个新的AI治理平台，旨在帮助组织控制AI代理的行为、成本和安全性。它提供实时政策管理、成本控制和全面可观察性，确保AI在生产环境中的安全和合规。新功能包括基于LLM的安全防护、成本跟踪和请求日志记录，帮助团队有效管理AI使用，防止成本失控。
关键要点
-
Unity AI Gateway是一个新的AI治理平台，旨在帮助组织控制AI代理的行为、成本和安全性。
-
该平台提供实时政策管理、成本控制和全面可观察性，确保AI在生产环境中的安全和合规。
-
新功能包括基于LLM的安全防护、成本跟踪和请求日志记录，帮助团队有效管理AI使用，防止成本失控。
-
Unity AI Gateway允许团队通过一致的政策和全面的可观察性来管理每个模型调用和代理行为。
-
平台引入了基于LLM的安全防护，能够实时评估和适应业务特定规则，确保模型行为在定义的边界内。
-
Unity AI Gateway提供成本控制功能，包括按请求、用户和端点的成本归属，帮助团队设置预算限制。
-
通过有效的请求和响应日志记录，Unity AI Gateway使团队能够调试、监控和满足合规要求。
-
管理员可以在Unity Catalog中定义服务调用的政策，确保代理在执行操作时遵循安全和合规要求。
延伸问答
Unity AI Gateway的主要功能是什么？
Unity AI Gateway的主要功能包括实时政策管理、成本控制和全面可观察性，帮助组织控制AI代理的行为、成本和安全性。
如何通过Unity AI Gateway控制AI的成本？
Unity AI Gateway提供按请求、用户和端点的成本归属功能，团队可以设置预算限制，防止成本失控。
Unity AI Gateway如何确保AI代理的安全性？
Unity AI Gateway引入基于LLM的安全防护，实时评估和适应业务特定规则，确保模型行为在定义的边界内。
Unity AI Gateway的可观察性功能有什么作用？
可观察性功能通过请求和响应日志记录，使团队能够调试、监控和满足合规要求，确保AI系统的透明性。
管理员如何在Unity AI Gateway中定义服务调用的政策？
管理员可以在Unity Catalog中定义服务调用的政策，确保代理在执行操作时遵循安全和合规要求。
Unity AI Gateway的日志记录功能如何帮助团队？
日志记录功能捕获每个请求和响应，创建一个集中、可查询的代理活动记录，便于调试和审计。
