💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
在2025年QCon AI NYC大会上，Aaron Erickson将代理AI视为工程问题，强调通过概率组件与确定性边界的结合来提高可靠性。他认为代理AI应作为实际操作系统的层，而非替代品。通过减少自由度、简化架构和限制查询形式，可以提升准确性。他还指出，工具选择是可靠性问题，强调角色专业化的重要性，建议使用专门的代理和确定性工具以控制复杂性。
🎯
关键要点
- Aaron Erickson在2025年QCon AI NYC大会上将代理AI视为工程问题，强调可靠性来自概率组件与确定性边界的结合。
- 代理AI应作为实际操作系统的层，而非替代品，能够解释问题、检索证据、分类情况并建议行动。
- 在复杂模式下，准确性会显著下降，建议通过减少自由度、简化架构和限制查询形式来提升准确性。
- 分类与代码生成之间存在实用差异，选择已知类别时模型有效，但在大搜索空间中发明程序时错误率上升。
- 工具选择本身是可靠性问题，过多相似工具会导致选择质量下降，模型可能选择次优或不安全的路径。
- 角色专业化很重要，通用代理适合路由和总结，但系统的正确性依赖于专门组件的狭窄合同。
- 代理行为的分类中，工作代理可以在大量相似记录中重复分析并存储结构化输出。
- 随着系统增长，工具选择代理、观察代理和导演代理等角色可以帮助控制复杂性。
- 代理系统应继承确定性操作的习惯，提供可重复的运行手册，而不是每次都重新发明流程。
- 确定性与发现之间的界限是平台工程的核心，包括身份验证、授权、审计、遥测和安全降级。
➡️
