内容提要
循环工程是设计AI代理自主运行循环的实践,源于2026年6月的讨论,核心组件包括目标、工具、上下文管理、终止和验证。它从提示工程演进而来,基于ReAct和Reflexion研究,常见模式有重试、计划执行验证等,关键挑战是上下文管理、终止和验证,人类仍需在敏感决策中把关。
延伸解读
从提示工程到循环工程:能力焦点的转移
文章将工程实践划分为提示工程、上下文工程、工具链工程和循环工程四个递进层次。循环工程并非取代前几者,而是在其之上增加了一个新的关注点:如何设计一个自主运行的循环,使代理能够在无人持续干预的情况下持续工作。这一转变反映了AI代理能力的提升,也意味着工程师的核心技能从撰写单次提示转向设计可信任的自动化系统。
循环工程的关键挑战与失败模式
循环工程面临三大核心难题:上下文管理、终止条件和验证机制。处理不当会导致上下文溢出或质量下降、无进展循环、目标错配(如奖励黑客)、虚假成功声明以及成本失控等失败模式。文章强调,解决这些问题的关键在于引入外部、确定性的验证手段(如测试、类型检查),而非依赖模型自我评估。
人类在循环中的角色:判断与监督
尽管循环工程追求自动化,但文章明确指出人类判断仍不可或缺。自动化验证器无法评估文档框架是否适合目标受众,也无法判断敏感操作是否应执行。因此,在敏感工具调用、高风险的验证环节以及最终输出发布前,应设置人工审批点。循环工程并非取代人类,而是将人类的判断力重新定位到更关键的决策节点上。
Q&A
什么是循环工程?
循环工程是设计AI代理自主运行循环的实践,即构建一个系统,让模型在循环中自主执行任务,包括提示、检查、记忆和重新运行,直到满足可验证的完成条件,而无需人类逐步干预。
循环工程是如何起源的?
循环工程一词在2026年6月迅速流行,源于开发者Peter Steinberger在6月7日发布的一条推文,他主张应该设计循环来提示编码代理,而不是直接提示。随后,Google工程师Addy Osmani在6月8日发表文章《Loop Engineering》,为这一概念提供了具体框架,包括自动化、工作树、技能、连接器和子代理等组件。
循环工程与提示工程、上下文工程、工具工程有什么关系?
循环工程是提示工程、上下文工程和工具工程之上的新层次。提示工程关注措辞,上下文工程关注模型看到的信息,工具工程关注代理的环境和工具,而循环工程关注的是让代理持续工作并适时停止的循环。这些层次层层包裹,循环工程包含工具工程,工具工程包含上下文工程,上下文工程包含提示工程。
一个可靠的循环由哪些核心组件构成?
一个可靠的循环通常包含:一个具有可测试终止条件的目标、一套能实际影响环境的工具集、上下文管理机制、明确的终止和升级逻辑,以及能区分可恢复错误和硬性阻塞的错误处理。
循环工程中常见的模式有哪些?分别适用于什么场景?
常见模式包括:重试循环,适用于有明确通过/失败标准的短任务;计划-执行-验证循环,适用于顺序重要且早期错误会累积的多步骤任务;探索-收窄循环,适用于不熟悉领域,需要尝试多种方法;以及人机协同循环,适用于错误代价高昂的敏感决策。
循环工程面临的最大挑战是什么?
循环工程面临三大挑战:上下文管理(防止上下文溢出或质量下降)、终止(确保循环在成功或失败时正确停止)和验证(确保结果真实可靠)。处理不当会导致上下文溢出、无进展循环、目标错位、虚假成功和成本失控等问题。
在循环工程中,人类仍然扮演什么角色?
尽管循环自动化了许多工作,但人类仍然在敏感决策、最终质量把关和定义目标方面发挥关键作用。例如,在敏感工具调用前需要人工批准,在验证循环中人类可能作为最终评判者,或在输出到达用户前进行审查。
如何开始构建自己的第一个循环?
从最简单的版本开始:选择一个具体可检查的目标,使用确定性验证器(如测试套件),设置迭代上限,并定义一条升级路径。选择低风险、重复性的任务,如夜间问题分类或定期报告。先让基础循环稳定运行几周,再考虑添加更复杂的组件。