Microservice architecture
·
基于生成AI的开发平台 - 第4部分：编码代理三明治模式
💡
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
本文介绍了一种名为“编码代理三明治”的架构模式，结合了传统代码和大型语言模型（LLM）的优势。该模式通过“实施计划”工作流，将任务转化为Git提交，强调使用传统代码（POC）以提高效率和可预测性。对于无法用POC实现的任务，工作流会调用编码代理，整体设计遵循功能分解原则，确保在可预测性破裂时才使用LLM，并为其提供确定性工具。
🎯
关键要点
- 本文介绍了一种名为“编码代理三明治”的架构模式，结合了传统代码（POC）和大型语言模型（LLM）的优势。
- 该模式通过“实施计划”工作流，将任务转化为Git提交，强调使用传统代码以提高效率和可预测性。
- 对于无法用POC实现的任务，工作流会调用编码代理，确保在可预测性破裂时才使用LLM，并为其提供确定性工具。
- 工作流的输入是计划，计划由一组任务组成，工作流将每个任务转化为Git提交。
- 编码代理用于那些无法用POC实现的任务，利用POC和编码代理的优势。
- 该架构遵循功能分解原则，将系统分为不同的组件，根据责任使用最合适的技术。
- 实用规则是优先使用POC，仅在确定性破裂时回退到LLM，并为LLM提供确定性工具。
❓
延伸问答
什么是编码代理三明治模式？
编码代理三明治模式是一种架构模式，结合了传统代码（POC）和大型语言模型（LLM）的优势，通过将任务转化为Git提交来提高效率和可预测性。
编码代理三明治模式的工作流程是怎样的？
该模式通过实施计划工作流，将一组任务转化为Git提交，优先使用传统代码，只有在可预测性破裂时才调用编码代理。
在什么情况下会使用编码代理？
编码代理用于那些无法用传统代码实现的任务，确保在可预测性破裂时才使用LLM。
为什么优先使用传统代码而不是LLM？
优先使用传统代码是因为其高效、可预测且易于开发和调试，而LLM的非确定性和高计算成本使其不适合用于所有任务。
编码代理三明治模式如何实现功能分解？
该模式通过将系统分为不同组件，根据责任使用最合适的技术，从而实现功能分解，LLM仅在其能力提供价值时使用。
编码代理三明治模式的实用规则是什么？
实用规则是优先使用传统代码，只有在确定性破裂时回退到LLM，并为LLM提供确定性工具。
➡️
