暗无天日
·
读：Agent 的瓶颈不在模型，在基础设施
内容提要
文章探讨了代理系统基础设施对性能的重要性，强调基础设施设计优于模型调优。提出三层工程结构：提示词工程、上下文工程和基础设施工程，指出项目失败多因基础设施不健全。建议保持循环简单，基础设施应随模型能力提升而变薄，并提出七个设计抉择以优化系统。成功的关键在于管理上下文和设计有效的基础设施。
关键要点
-
代理系统的性能主要取决于基础设施，而非模型本身。
-
基础设施分为三层：提示词工程、上下文工程和基础设施工程，第三层是决定系统表现的关键。
-
许多项目失败是因为基础设施设计不健全，导致模型在实际应用中表现不佳。
-
循环保持简单，基础设施应随着模型能力的提升而变薄，避免过度复杂化。
-
在设计基础设施时，应定期审视并删除不再需要的部分，以优化系统性能。
-
工程实践中需做出七个设计抉择，建议从简单开始，逐步优化。
延伸解读
基础设施的重要性
文章强调，代理系统的性能主要依赖于基础设施而非模型本身。许多项目失败的原因在于基础设施设计不健全，导致模型在实际应用中表现不佳。因此，在开发代理系统时，重视基础设施的设计和优化是至关重要的。
三层工程结构解析
文章提出的三层工程结构分别为提示词工程、上下文工程和基础设施工程。第三层基础设施工程是决定系统表现的关键，许多工程师往往忽视这一层，导致系统在实际运行中出现问题。理解这三层结构有助于更有效地优化代理系统。
循环设计的简化
在设计代理系统的循环时，文章建议保持简单，避免在循环中加入复杂的逻辑判断。循环的主要任务是信息的传递和模型的执行，其他复杂的处理应在循环外进行。这样可以减少系统的混乱，提高整体性能。
基础设施的演进
文章提到，随着模型能力的提升，基础设施应逐渐变薄。定期审视基础设施，删除不再需要的部分，可以优化系统性能。这样的演进策略有助于避免过度工程，确保基础设施真正服务于模型的能力提升。
延伸问答
代理系统的性能主要受什么因素影响？
代理系统的性能主要取决于基础设施，而非模型本身。
基础设施工程分为哪三层？
基础设施工程分为提示词工程、上下文工程和基础设施工程。
为什么许多代理项目会失败？
许多代理项目失败是因为基础设施设计不健全，导致模型在实际应用中表现不佳。
在设计基础设施时应遵循什么原则？
在设计基础设施时，应保持循环简单，定期审视并删除不再需要的部分，以优化系统性能。
如何优化代理系统的基础设施？
优化代理系统的基础设施可以通过七个设计抉择来实现，建议从简单开始，逐步优化。
基础设施应该如何随着模型能力的提升而变化？
基础设施应该随着模型能力的提升而变薄，避免过度复杂化。
