文章提出“编码代理三明治”模式来架构LLM系统:先进行功能分解,将问题拆分为不同职责,再逐一判断用普通代码还是LLM实现。能精确计算的任务优先用代码,因为可重复、易调试、快速且低成本;仅在需要判断或处理模糊输入时使用LLM。编排也属于职责,可由代码或LLM承担。LLM应尽量窄化,工具调用等确定性操作交给代码。
本文介绍了一种名为“编码代理三明治”的架构模式,结合了传统代码和大型语言模型(LLM)的优势。该模式通过“实施计划”工作流,将任务转化为Git提交,强调使用传统代码(POC)以提高效率和可预测性。对于无法用POC实现的任务,工作流会调用编码代理,整体设计遵循功能分解原则,确保在可预测性破裂时才使用LLM,并为其提供确定性工具。
完成下面两步后,将自动完成登录并继续当前操作。