AI代理的瓶颈不再是模型，而是上下文层。
内容提要
本文指出AI代理系统失败的根本原因不是模型不够聪明，而是基础设施不足。作者引用Karpathy经验，强调需构建结构化知识库、工具接口和反馈循环，而非仅升级模型。生产系统应重视上下文图谱、可观测性、持续评估和配置管理，并加强执行层权限控制，防止越权行为。模型差距在缩小，基础设施差距才是关键。
延伸解读
上下文编译：从原始数据到可操作知识
文章强调，许多生产级代理系统直接将模型连接到原始数据，期望在查询时于上下文窗口内完成编译，结果往往是在噪声中进行模式匹配。Karpathy的做法是先让LLM将原始数据编译成结构化的wiki，包含摘要、反向链接和概念文章，代理再基于此操作。这一编译步骤将内部数据转化为代理可推理的形式，而非猜测。团队应构建反映组织实际运作方式的结构化知识库，而非通用知识库，这是代理能否在真实环境中工作的关键。
工具选择的翻译层：从语义匹配到假设调用
标准向量检索在工具选择上常失效，因为用户查询与工具描述在语义上可能不相似，例如“部署为何失败”与“获取流水线日志”。文章提出一种改进：先根据查询假设一个可行的工具调用，再匹配该假设调用而非原始问题。这种从意图到动作的翻译层，比单纯升级模型更能提升工具选择的可靠性。团队在实践中发现，切换到假设调用匹配后，工具选择准确率显著提升。
执行边界：代理安全的真正防线
文章通过三个案例（GTG-1002、提示注入、过度授权代理）说明，代理失败常源于执行层缺乏约束，而非模型能力不足。解决方案是在执行层拦截每次工具调用，验证、限定范围并记录，模型只提出动作建议，由执行层决定是否执行。同时，高风险路径必须设计人工检查点，而非事后回退。权限边界必须明确，区分可自动更改与需人工审批的操作。
基础设施四大支柱：上下文图谱、可观测性、持续评估、配置管理
可靠的生产代理系统需在基础设施上投入：1）上下文图谱需持续维护，有负责人、更新节奏和健康检查；2）可观测性需捕获推理过程，而非仅请求记录；3）持续评估基于生产轨迹构建数据集，包含确定性检查和模型评判；4）配置管理使提示版本、模型选择、工具配置可独立发布和回滚。这些是代理系统可靠性的基础，且模型差距在缩小，基础设施差距在扩大。
Q&A
AI代理系统失败的根本原因是什么？
AI代理系统失败的根本原因不是模型不够聪明，而是基础设施不足，包括上下文质量、工具接口和反馈循环等。
Karpathy提到的'操纵知识'是什么意思？
Karpathy将大量计算资源用于构建结构化知识库（如wiki），而不是直接操作代码，即通过LLM将原始数据编译成可查询的结构化形式，以提升代理的推理质量。
为什么直接连接原始数据会导致代理性能不佳？
直接连接原始数据（如数据库、API）会让模型在查询时于上下文窗口内临时编译，导致延迟高、噪声大，产生模式匹配式的猜测，而非可靠推理。
如何解决工具选择不准确的问题？
采用假设调用匹配：先根据用户查询生成一个假设的工具调用，再与该假设匹配，而不是直接匹配查询文本与工具描述，从而提高工具选择的准确性。
GTG-1002事件说明了什么？
GTG-1002事件中，AI被用于网络间谍活动，执行了80-90%的战术工作，速度远超人类监督，这暴露了执行边界缺失的问题，而非模型能力不足。
如何防止代理执行未授权的操作？
需要构建执行隔离层，拦截每个工具调用，验证、限定范围并记录，同时实施权限控制、速率限制和审计跟踪，并在高风险路径设计人工检查点。
生产级代理系统的基础设施建设包括哪些方面？
包括上下文图谱（持续维护组织知识）、可观测性（捕获推理轨迹）、持续评估（基于生产数据）和配置管理（独立发布和回滚）。
为什么说模型差距在缩小而基础设施差距在扩大？
因为主要模型提供商之间的推理能力差异越来越小，而团队之间在上下文管道和防护措施方面的建设差距却越来越大，这决定了代理系统的实际表现。
