Andrej Karpathy 解析 Loop Engineering：构建“数日级”长程 Agent 的 9 条黄金法则
内容提要
本文讨论了提升Agent系统稳定性与效率的方法，强调“循环工程”取代传统的“提示词工程”。Karpathy提出九条黄金法则，如角色分离、状态持久化和合同协商，旨在使Agent独立运行并交付可用产品。通过优化设计，开发者能够更有效地管理复杂性，消除不确定性，推动AI技术进步。
关键要点
-
提升Agent系统稳定性与效率的方法是采用循环工程，取代传统的提示词工程。
-
Karpathy提出九条黄金法则，包括角色分离、状态持久化和合同协商，旨在使Agent独立运行并交付可用产品。
-
循环工程强调控制流和状态管理，避免依赖脆弱的上下文窗口。
-
角色分离是关键，规划者、生成者和评估者各自承担不同的职责，避免自我评分导致的系统失败。
-
在生成代码前，必须先协商完成标准，确保评估者和生成者达成一致。
-
状态应写入磁盘而非上下文，以确保系统在崩溃后能恢复。
-
允许循环重启，避免在错误的方向上继续修补代码。
-
主观体验可以量化，通过设定评估标准来引导模型的输出。
-
定期审视和删除多余的Harness代码，以适应模型能力的提升。
-
系统的瓶颈会不断移动，设计循环的目的是为了清晰暴露下一个瓶颈。
延伸解读
循环工程的优势
循环工程通过角色分离和状态持久化，显著提升了Agent系统的稳定性和效率。与传统的提示词工程相比，循环工程更注重系统的控制流和状态管理，避免了上下文的脆弱性。这种方法使得开发者能够更好地应对复杂任务，减少系统崩溃的风险。
九条黄金法则的实用性
Karpathy提出的九条黄金法则为开发者提供了清晰的指导，尤其是在角色分离和合同协商方面。这些法则不仅适用于AI系统的开发，也可以借鉴到其他软件工程项目中，帮助团队更有效地管理复杂性和不确定性。
关注系统瓶颈的动态变化
在循环工程中，系统的瓶颈是动态变化的，随着技术的进步，开发者需要不断审视和调整设计。理解这一点有助于团队及时识别并解决新出现的问题，从而保持系统的高效运行。
延伸问答
什么是循环工程，它如何取代提示词工程？
循环工程是一种新的设计范式，强调系统控制流、状态持久化和多角色博弈，旨在提升Agent系统的稳定性与效率，取代传统的提示词工程。
Karpathy提出的九条黄金法则有哪些关键点？
九条黄金法则包括角色分离、状态持久化、合同协商等，旨在确保Agent独立运行并交付可用产品。
如何实现角色分离以提高Agent系统的效率？
通过将规划者、生成者和评估者分开，各自承担不同职责，避免自我评分导致的系统失败，从而提高系统效率。
为什么状态应写入磁盘而非上下文？
因为上下文窗口会发生信息压缩和退化，而磁盘上的文件能够保持准确的信息，确保系统在崩溃后能恢复。
循环工程如何帮助识别和解决系统瓶颈？
循环工程设计的目的是为了清晰暴露下一个瓶颈，随着系统的不断优化，瓶颈会不断移动，开发者需要持续关注。
如何量化主观体验以指导模型输出？
通过设定评估标准，使用设计、原创性、工艺和功能性等维度对主观体验进行量化评分。
