EP232:AI 系统中常用的 6 种编排框架

EP232:AI 系统中常用的 6 种编排框架

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

文章介绍AI系统设计要点:六种编排框架,包括LangGraph图结构、CrewAI角色分工、微软Agent Framework、OpenAI Agents SDK、Google ADK及Claude Agent SDK;六项成本优化策略,包括提示缓存、模型路由、批量API、语义缓存、精简上下文和模型小型化;并简述SQL查询执行流程及Claude Code从提示、规划、权限检查、工具调用到返回结果的循环机制。

🔎

延伸解读

编排框架的选型取决于控制粒度

文章列出的六种框架在控制方式上差异明显:LangGraph 用图结构显式定义节点与状态转移,适合需要精细控制流程的场景;CrewAI 以角色分工抽象任务,更贴近团队协作模型;OpenAI Agents SDK 让 LLM 自行决定是否委托,控制权更多交给模型;Claude Agent SDK 则没有独立编排层,循环内嵌于代理中。选型时应先明确希望开发者掌控多少流程,而非单纯比较功能列表。

成本优化需组合使用而非单点突破

六项策略分别针对不同成本来源:提示缓存减少重复前缀计算,模型路由按查询难度分配模型,批量 API 利用异步折扣,语义缓存复用相似查询答案,精简上下文避免重复发送历史,模型小型化则从模型本身降本。实际系统中这些手段往往叠加生效,例如路由到小模型后再配合缓存,效果比单独使用更明显。文章未给出具体节省比例,需结合自身流量特征评估。

Claude Code 的循环本质是权限约束下的工具调用

文章拆解的一次请求包含八个步骤,核心是代理循环:规划动作、权限检查、工具调用、返回结果、持久化状态,循环直至模型不再请求工具。其中权限系统在工具执行前介入,将提议动作与规则比对,这决定了代理能做什么、不能做什么。对于自建编码代理的读者,权限检查环节的粒度设计可能比循环本身更影响安全性与可用性。

❓

Q&A

AI 系统里常用的编排框架有哪些?

文章列出了 6 种:LangGraph(基于图的节点和边控制状态转移)、CrewAI(基于角色分工,可顺序或由经理代理协调)、Microsoft Agent Framework(面向组织工作流,支持分支、检查点和人工干预暂停)、OpenAI Agents SDK(LLM 驱动的运行时,代理自行决定委托或保留执行)、Google ADK(混合控制,开发者定义策略,根代理拆分任务给子代理)、Claude Agent SDK(无独立编排层,编排逻辑内置于代理中,代理收集上下文、使用工具、评估并持续直到无调用)。

如何降低 AI 系统的调用成本?

文章给出 6 种策略:提示缓存(缓存系统提示、工具模式等稳定前缀,跳过重复计算)、模型路由(简单查询用小模型,复杂请求用前沿模型)、批量 API(异步批量处理,通常有折扣)、语义缓存(用嵌入模型缓存查询,命中则复用答案)、精简上下文(裁剪对话历史,避免每次发送全部内容)、模型小型化(通过蒸馏或量化将大模型转为小模型)。

LangGraph 和 CrewAI 在编排方式上有什么不同?

LangGraph 使用基于图的技术,工作流表示为节点,边决定状态转移;CrewAI 使用基于角色的抽象,为代理分配定义好的角色和目标,代理可以顺序工作或通过经理代理协调。

一条 SQL 查询在数据库内部是如何执行的?

执行流程包括:解析和验证(检查语法、对象、列和数据类型,转为逻辑查询树)、重写和转换(简化并重构查询树以提高效率)、优化并选择计划(比较不同执行计划,选择耗时和资源最少的)、执行计划树(运行过滤、连接、排序等操作,通常从解析树底部向上)、访问缓存和存储(从缓存或存储读取数据)、返回行(格式化结果并发送给客户端)。

Claude Code 处理一个用户请求的完整流程是怎样的?

流程为:用户通过界面发送提示;界面(CLI、IDE 或 SDK)将提示与仓库和文件上下文包装后交给代理循环;代理循环规划下一步并提议动作(如编辑文件);权限系统根据规则检查该动作;批准的动作变为工具调用并分发给对应工具;工具在执行环境(shell、云或沙箱)中作为真实系统调用运行;执行结果返回给代理循环;代理将本轮持久化到状态并向用户流式输出最终消息。整个系统就是此循环,直到模型不再请求工具。

OpenAI Agents SDK 和 Google ADK 在控制方式上有什么区别?

OpenAI Agents SDK 采用 LLM 驱动的运行时方法,由代理自行决定是否将控制权委托给其他代理或保留执行以完成任务;Google ADK 采用混合控制方法,开发者定义运行任务的策略,根代理将任务拆分并分发给子代理。

🏷️

标签

➡️

继续阅读