内容提要
OpenAI公测Agents API,支持运行持续数天的自主智能体,可自动压缩上下文、按需调用工具并支持并行子智能体。同日因GPT-6 Astra需求过大,OpenAI暂停200美元Pro新订阅。内部数据显示,8月中旬研究员人均智能体工作量达人类三倍,中位日推理成本超600美元。该API降低编排成本,但推理消耗更易激增。
延伸解读
长时智能体如何改变成本结构
Agents API 让智能体可连续运行数天,并自动压缩上下文、按需调用工具、并行子智能体。这降低了编排成本,但推理消耗更易激增。因为智能体每推进一步都需回模型,长任务累积的推理量远超普通 API 调用,并行时消耗更快。开发者需关注 token 使用,避免成本失控。
OpenAI 内部数据揭示的规模效应
OpenAI 研究显示,8 月中旬研究员人均智能体工作量达人类三倍,中位日推理成本超 600 美元,90 分位超 7000 美元。这虽属极端案例,但表明智能体规模化后,单人可产生远超其人力预期的推理量。企业规划算力时,不能仅按人头估算,需考虑智能体并行与长时运行带来的额外负载。
容量压力与产品策略的关联
Agents API 公测同日,OpenAI 因 GPT-6 Astra 需求过大暂停 200 美元 Pro 新订阅,称 Pro 账户对系统压力最大。尽管 Agents API 与 Pro 是独立产品,但时机凸显 OpenAI 在降低智能体运行门槛的同时,正面临容量挑战。开发者使用 Agents API 时需注意其独立速率限制,并关注平台容量变化可能带来的影响。
Q&A
OpenAI的Agents API是什么?它有什么主要功能?
OpenAI的Agents API是Codex的后端,现已公测,允许开发者运行无人值守的智能体,持续数天。主要功能包括:自动压缩上下文,使智能体在超出单个上下文窗口时仍能继续工作;按需调用工具;将任务分发给并行子智能体;工作可在OpenAI沙箱或开发者控制的基础设施上运行。
为什么OpenAI暂停了每月200美元的Pro计划新订阅?
因为GPT-6 Astra的需求过大,给系统容量带来了压力。Codex工程负责人Thibault Sottiaux表示,Pro订阅“给我们的系统带来最大压力”,OpenAI正在“尽快”增加容量。
OpenAI内部研究员使用AI智能体的成本有多高?
根据OpenAI 9月6日发布的研究报告,截至8月中旬,其研究机构每人类工作日对应3.1个智能体工作日。按API价格计算,智能体使用量中位研究员每天推理成本超过600美元,第90百分位超过7000美元。
Agents API如何帮助处理长时间运行的任务?
当任务变长时,API可以压缩较早的上下文,使智能体不会因达到模型上下文限制而停止。它还能在需要时引入工具,或将部分任务发送给并行子智能体。工作可在OpenAI沙箱或开发者控制的基础设施上运行。
Agents API对推理消耗有什么影响?
Agents API降低了编排成本,开发者只需为模型、工具和托管计算付费,但这也使得消耗更多推理变得更容易。上下文压缩自动处理,工作负载不会在上下文窗口填满时停止。智能体并行工作时使用量增长更快。
Agents API和ChatGPT Pro是同一个产品吗?Pro暂停是否影响开发者?
不是同一个产品。Agents API和ChatGPT Pro是分开的,因此没有理由认为一个在占用另一个的容量。Agents API有自己的速率限制和使用层级,所以Pro暂停不会直接影响使用它的开发者。