从训练到生产:英伟达与CoreWeave打通代理式AI闭环

从训练到生产:英伟达与CoreWeave打通代理式AI闭环

💡 原文英文,约1400词,阅读约需6分钟。
📝

内容提要

英伟达与CoreWeave深化合作,将Vera Rubin NVL72系统及首款AI代理CPU Vera投入生产。Cognition率先运行,推理吞吐量提升4.8倍。CoreWeave推出Forge平台,整合训练与评估,并发布ARIA、Agent Lens等工具,加速代理式AI从实验走向生产。

🔎

延伸解读

代理式AI的基础设施挑战

代理式AI对基础设施提出双重压力:服务代理需要低延迟的大规模计算,而通过后训练改进代理则需要同时运行数千个隔离环境。英伟达Vera CPU专为代理工作负载设计,单机架可提供128个CPU和11,264个核心,支持超过11,000个并发环境。CoreWeave测试显示,Vera CPU上代理沙箱启动时间加快3倍以上,在Terminal-Bench上性能提升1.7倍。这些数据表明,代理式AI的落地不仅依赖GPU推理,还需要专门优化的CPU和沙箱执行层来支撑强化学习、工具调用和评估。

从训练到生产的闭环如何实现

CoreWeave Forge旨在打通模型和代理持续改进的闭环:生产行为反馈到下一轮训练,每次评估优化下一个版本。此前这一循环分散在不同厂商的工具中,每次交接都会丢失信号。Forge整合了Weights & Biases、OpenPipe的后训练专长和开源marimo笔记本项目,并保持对模型、框架和云开放。新增能力包括ARIA(分析运行、提出实验、推荐代码更改)、Agent Lens(将生产代理可观测性转化为持续改进,故障检测提升20%,修复成本减半)和Sandboxes(隔离执行环境)。这些工具共同作用,让代理从

性能提升的实际意义

Cognition在CoreWeave上使用Vera Rubin NVL72进行早期测试,针对SWE-2推理工作负载,总令牌吞吐量比GB200 NVL72提升高达4.8倍。对于Devin这样的AI软件工程师,这意味着更快的实时代码生成和更响应式的多步推理。Cognition创始团队成员Silas Alberti指出,代理编码是复杂工作负载,长上下文、高并发和令牌量使得每令牌成本决定可交付内容。将训练、强化学习和生产推理整合在一个平台上,并由英伟达和CoreWeave工程师共同解决难题,比任何单一规格更重要。这反映了

企业采用与行业验证

英伟达与CoreWeave的平台正被AI实验室、AI原生公司和全球企业用于加速从原型到生产的进程。在医疗领域,Ennoble Care选择CoreWeave运行临床AI推理,将使用预留的英伟达RTX PRO 6000 GPU容量来扩展临床文档、决策支持和后台自动化的AI代理。CoreWeave在每轮MLPerf训练和推理中均取得创纪录结果,是唯一在SemiAnalysis ClusterMAX 1.0、2.0和3.0中保持白金评级的云提供商,并服务于10家领先AI实验室中的9家。Canva、Capital One和

❓

Q&A

英伟达和CoreWeave在代理式AI方面有哪些新合作?

CoreWeave将英伟达Vera Rubin NVL72系统和首款AI代理CPU Vera投入生产,并推出CoreWeave Forge平台,整合训练、评估和改进模型与代理的环境。

Cognition使用Vera Rubin NVL72后推理性能提升了多少?

在早期测试中,Vera Rubin NVL72为SWE-2推理工作负载带来高达4.8倍的总token吞吐量提升,相比GB200 NVL72基线。

NVIDIA Vera CPU在代理式AI工作负载中有哪些优势?

Vera CPU专为代理式工作负载设计,单机架可提供128个CPU和11,264个核心,支持超过11,000个并发环境。测试中,代理沙箱启动时间快3倍以上,在Terminal-Bench上性能提升1.7倍。

CoreWeave Forge平台是什么?它包含哪些工具?

CoreWeave Forge是一个连接的环境,用于在NVIDIA加速计算上训练、评估和改进模型与代理。它整合了Weights & Biases、OpenPipe的后训练专业知识和开源marimo notebook项目,并包含CoreWeave ARIA、Agent Lens、Sandboxes等工具。

CoreWeave Agent Lens如何帮助改进生产中的AI代理?

Agent Lens将生产代理可观测性转化为持续改进和可理解的洞察,将故障检测提升20%,并以一半的成本修复问题,把数千万生产代理跟踪转化为驱动修复的洞察。

哪些公司正在使用CoreWeave Forge平台?

Canva、Capital One和MasterClass是首批在Forge上构建的公司。

🏷️

标签

➡️

继续阅读