Apple Machine Learning Research
·
面向治理的代理遥测在多智能体AI系统中的闭环执行
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
提出的治理感知代理遥测（GAAT）架构实现了对企业多智能体AI系统的实时违规检测与自动政策执行，显著提高了电商系统的违规预防率，达到98.3%。
🎯
关键要点
- 企业多智能体AI系统每小时产生数千个代理间交互，现有可观察性工具无法执行治理。
- 现有工具如OpenTelemetry和Langfuse将治理视为下游分析问题，而非实时执行目标。
- 提出的治理感知代理遥测（GAAT）架构实现了遥测收集与自动政策执行的闭环。
- GAAT引入了治理遥测架构（GTS），扩展了OpenTelemetry以包含治理属性。
- GAAT具有实时政策违规检测引擎，使用OPA兼容的声明性规则，延迟低于200毫秒。
- GAAT的治理执行总线（GEB）提供分级干预。
- GAAT的可信遥测平面具有加密来源。
- 在一个五代理的电商系统中，GAAT实现了98.3%的违规预防率，检测延迟中位数为8.4毫秒。
- 在12000个真实生产轨迹中，GAAT达到了99.7%的违规预防率。
- GAAT在统计验证中显示出显著性，95%自助法置信区间为[97.1%, 99.2%]。
- GAAT的表现优于NeMo Guardrails风格的代理边界执行，提升了19.5个百分点。
- 提供了正式的属性规范，包括升级终止、冲突解决确定性和有限假阳性隔离，经过10000次蒙特卡洛模拟验证。
❓
延伸问答
GAAT架构的主要功能是什么？
GAAT架构实现了遥测收集与自动政策执行的闭环，能够实时检测违规并执行政策。
GAAT在电商系统中的违规预防率是多少？
在一个五代理的电商系统中，GAAT实现了98.3%的违规预防率。
GAAT如何提高政策执行的实时性？
GAAT使用低于200毫秒的延迟进行实时政策违规检测，确保快速响应。
GAAT与现有工具相比有什么优势？
GAAT的表现优于NeMo Guardrails风格的代理边界执行，提升了19.5个百分点的违规预防率。
GAAT的治理遥测架构（GTS）有什么特点？
GTS扩展了OpenTelemetry，包含治理属性，增强了对政策执行的支持。
GAAT的统计验证结果如何？
GAAT的统计验证显示出显著性，95%自助法置信区间为[97.1%, 99.2%]。
➡️
