Nvidia推出的Nemotron 3 Ultra现已在Vercel AI Gateway上可用。这是一种开放的混合专家推理模型，专为长时间运行的代理工作流设计，具有1M的上下文窗口，支持多轮代理工作流，吞吐量可达每秒350个标记，成本降低30%。使用时需在AI SDK中设置模型为nvidia/nemotron-3-ultra-550b-a55b。

随着代理工作流的普及，代码生成迅速增加，但验证成为新的瓶颈。传统的验证基础设施无法应对大量的拉取请求，导致开发者限制代理的输出。为了解决这一问题，团队需要构建可扩展的短暂环境，以快速验证代码。使用服务网格（如Istio）的团队在这一转型中具有优势，能够更有效地处理代理生成的代码，避免集成失败。

代理工作流通过自主决策和循环反馈，超越传统自动化的固定脚本，灵活应对变化。它们具备自主性、推理能力、工具使用和记忆，适用于客服、开发和财务等重复性工作。

本文探讨了AI开发中的上下文管理策略，包括多智能体、代理工作流、RAG和技能等，旨在解决上下文污染、流程僵化和工具过多的问题。通过分治和懒加载等方法，优化AI工具的使用效率，提高开发者的工作流。

微服务通过将系统拆分为独立单元改变了软件构建方式，但随着规模扩大，开发者面临更大的认知和操作负担。代理工作流引入自主代理，动态执行任务，改变了微服务的交互方式。开发者需关注服务的自描述、状态透明和幂等性，以支持代理。API网关可作为代理协调中心，简化通信。尽管面临新挑战，代理工作流为微服务开发者提供了新的可编程协调机会。

代理工作流是一种创新的任务自动化方法，能够独立分析、决策和执行任务。与传统工具相比，它更灵活智能，适应复杂挑战，减少重复工作，提高效率。通过整合大型语言模型和API，代理工作流增强了组织的敏捷性和适应性。

随着多模态AI模型的发展，PydanticAI结合数据验证与代理工作流，确保输出结构化和可重用。本文介绍如何利用PydanticAI提取发票信息、构建可重用代理并进行有效测试，从而实现稳健的AI工作流。