你的AI智能体失败了。问题可能不在模型本身。
内容提要
AI智能体进入生产环境后，因自主选择工具和修改路径，故障更难诊断。英伟达产品副总裁认为，仅靠日志和输入输出不够，需追踪推理轨迹、工具调用与卡点，甚至回放执行过程。故障可能源于编排框架或运行时，而非模型本身。英伟达推出OpenShell运行时管理沙箱与策略，并联合约140家公司发起SAFE，共享故障发现，避免重复踩坑。
延伸解读
智能体故障诊断的独特挑战
与传统软件不同，AI智能体在运行中可自主选择工具、改变路径，故障往往没有明显异常。即使最佳编码智能体在真实任务中失败率也超过60%。仅查看日志或输入输出不足以定位问题，需要追踪推理轨迹、工具调用和卡点，甚至回放执行过程。这意味着调试重点从单一错误点转向整个执行流程。
运行时：治理与可见性的关键层
英伟达将智能体栈分为模型、编排框架和运行时三层。故障可能源于编排框架或运行时，而非模型本身。其OpenShell运行时负责沙箱、策略执行并提供执行可见性，被英伟达视为参考架构中不可协商的组件。这提示开发者，模型之外的基础设施同样需要严格治理和监控。
共享故障发现：SAFE的行业协作
英伟达联合约140家公司发起SAFE，旨在建立共享基础设施，报告智能体故障，借鉴传统软件漏洞披露机制。目标是将发现的问题跨公司共享，避免每个团队重复踩坑。对于平台团队，重建智能体执行过程以理解根因是一大挑战，SAFE试图让这些发现具有更广泛的可用性。
监控成本与专用化趋势
OpenAI发现，对最强大的持久智能体进行监控会增加约20%的推理计算成本。同时，企业围绕专用工作流构建智能体，其故障可能不会出现在通用模型基准或安全测试中。这给开发者带来更大压力，需要深入理解执行过程，并权衡监控开销与故障诊断的收益。
Q&A
为什么AI智能体进入生产环境后故障更难诊断？
因为智能体可以自主选择工具并改变执行路径，故障时没有明显的错误可追踪，它可能带着早期错误继续运行，而不产生传统软件故障的迹象。
调试AI智能体故障时，除了日志和输入输出，还需要关注哪些信息？
需要追踪推理轨迹、工具调用、卡点位置以及决定尝试新方法的节点，甚至回放执行过程来查看哪里偏离了方向。
AI智能体的故障一定源于模型本身吗？
不一定。故障可能源于编排框架（harness）或运行时（runtime），而非模型本身。例如，更换harness而保持模型不变可以提升性能，说明不匹配的harness会拖累模型。
英伟达的OpenShell在AI智能体架构中扮演什么角色？
OpenShell是英伟达的智能体运行时，位于NemoClaw平台之下，负责管理沙箱和策略执行，并提供对智能体执行过程的可见性。它是英伟达参考架构中不可协商的组件。
SAFE是什么？它如何帮助解决AI智能体故障？
SAFE（Secure Agent Findings Exchange）是由约140家公司支持的行业倡议，旨在创建共享基础设施来报告智能体故障，借鉴传统软件漏洞披露机制，让企业共享故障发现，避免重复踩坑。
监控AI智能体故障会带来哪些额外成本？
监控会增加推理计算成本。例如，OpenAI发现对其最强大的持久性智能体进行监控，推理计算成本大约增加20%。
