你的AI代理的下一次工具调用可能有效但错误。AWS的Dogwood承诺修复这一问题。

你的AI代理的下一次工具调用可能有效但错误。AWS的Dogwood承诺修复这一问题。

💡 原文英文,约1200词,阅读约需5分钟。
📝

内容提要

AWS发布开源策略语言Dogwood,用于治理AI代理的工具调用序列,而非孤立评估每次操作。它扩展了Cedar,支持时间条件、计数和速率限制,如限制每小时转账金额。Dogwood已集成至Amazon Bedrock AgentCore Policy,现有Cedar策略兼容,但运行成本更高,目前参考实现仅供探索测试。

🔎

延伸解读

从单次决策到序列治理

传统授权模型(如Cedar)只针对单个请求做即时判断,无法感知上下文。Dogwood通过引入时间条件和历史事件,让策略能表达“前置条件”“速率限制”和“顺序约束”。例如,股票交易代理必须在一小时内获得同一股票和数量的批准才能卖出。这种从“点决策”到“序列治理”的转变,更贴合AI代理执行多步骤工作流的实际需求。

并行调用的隐藏风险

AWS指出,若策略只统计已完成转账,代理可能同时提交多个2000美元请求,绕过每小时5000美元的限制。Dogwood能统计所有正在评估的请求,从而拒绝第三个超额请求。这提醒开发者,在代理环境中,并行工具调用可能让基于完成状态的策略失效,必须考虑“在途”操作。

采用前的现实考量

Dogwood虽开源,但参考实现仅用于探索测试,不适合生产。用户需自行处理可信时间戳、事件认证、历史隔离和保留策略,且运行成本高于Cedar。此外,事件历史的完整性和可信度是核心难题。AWS计划未来支持绝对时间规则和多代理系统,但当前不接收直接贡献,仅欢迎反馈。

Q&A

AWS的Dogwood是什么?

Dogwood是AWS发布的一种开源策略语言和参考解释器,用于治理AI代理的工具调用序列,而不是孤立地评估每个操作。它扩展了Cedar,支持时间条件、计数和速率限制,并已集成到Amazon Bedrock AgentCore Policy中。

Dogwood与Cedar有什么关系?

Dogwood构建在Cedar之上,是Cedar的扩展。Cedar是AWS贡献给CNCF的开源授权语言,用于决定是否允许某个操作。Dogwood增加了对事件序列的考虑,支持时间条件、计数和速率限制。现有的Cedar策略也是有效的Dogwood策略,因此团队无需重写现有规则。

Dogwood如何解决AI代理工具调用的治理问题?

Dogwood通过允许策略检查工具调用的历史序列来解决治理问题。它支持时间条件,可以查看之前的工具请求和响应,例如检查是否在之前一小时内获得了批准,或者计算过去一小时的转账总额。这有助于实施前提条件、速率限制和顺序约束。

Dogwood如何处理并行工具调用?

Dogwood可以处理并行工具调用,因为它能考虑所有正在评估的请求。例如,如果策略限制每小时转账不超过5000美元,Dogwood会计算所有转账请求,包括尚未完成的,从而拒绝第三个2000美元的请求,即使前两个尚未完成。

Dogwood与Amazon Bedrock AgentCore Policy的集成情况如何?

AWS已将Dogwood支持添加到Amazon Bedrock AgentCore Policy中。AgentCore Policy是用于控制代理可以调用哪些工具以及条件的托管服务。通过AgentCore Gateway,AWS可以从工具的MCP清单生成Dogwood的动作模式,每个工具成为策略可以引用的动作。

使用Dogwood有哪些注意事项或限制?

Dogwood比Cedar运行成本更高,因为它是有状态的,需要保留和搜索事件记录,评估时间可能取决于历史长度。目前,开源参考解释器仅用于探索和测试,不适合生产环境。采用者需要提供可信时间戳、认证事件、保持字段和动作名称一致、持久存储痕迹、记录授权决策,并隔离租户历史。此外,工具调用历史可能包含敏感数据,需要制定保留策略。

AWS对Dogwood的未来计划是什么?

AWS计划为Dogwood添加与绝对时间相关的规则,例如在午夜重置的配额,以及检查预期动作是否最终发生的“活性”属性。此外,他们希望将Dogwood从单个代理扩展到多代理系统,以管理交接和共享锁等。目前,AWS不接受直接贡献,但欢迎社区反馈。

🏷️

标签

➡️

继续阅读