内容提要
OpenAI Decisions API 已在 AI Gateway 上线,可通过兼容 OpenAI 的 /v1/decisions 端点调用。该模型针对共享输入回答带类型的问题,返回概率、选项和分数而非生成文本,适用于路由、分流、护栏和评分,并支持在一次请求中同时提出是非、选择和评分问题。需使用指定版本的 OpenAI SDK 或 AI SDK。
延伸解读
决策模型与语言模型的区别
文章指出,openai/gpt-6-luna-decisions 与 openai/gpt-6-luna 是两个独立的模型 ID。前者专用于 Decisions API,返回概率、选项和分数;后者仍是用于文本生成的语言模型。请求决策 ID 会路由到 Decisions API 并按该 API 的费率计费。这意味着开发者不能混用两者,需要根据任务类型选择正确的模型 ID。
一次请求支持多种问题类型
Decisions API 允许在同一个请求中针对共享输入提出是非、选择和评分三类问题。每个问题通过 name 标识,回答会按问题顺序返回并携带对应的 name。这种设计适合需要同时进行路由、分流、护栏和评分等判断的场景,避免多次调用模型,提升效率。
升级与兼容性要求
使用 decisions.create 需要 OpenAI SDK 7.30.0 或更高版本(JavaScript),或 3.26.0 或更高版本(Python)。在 AI SDK 中,experimental_decide 要求 ai 7.0.128 或更高版本。此外,AI SDK 中是非类型称为 boolean,问题以名称为键,每个键会对应到 answers 中的键。开发者需注意版本和命名差异。
调用方式与模型选择
除了 OpenAI SDK 和 AI SDK,还可以通过现有的 HTTP API /v1/evaluate 或 AI CLI 调用。模型字段可设置为任何决策模型,包括 Jev、Liquid d1 和 Laya。文章建议查阅 OpenAI 兼容的 Decisions API 参考以了解请求限制和错误格式,或浏览 AI Gateway 上的所有决策模型。
Q&A
OpenAI Decisions API 在 AI Gateway 上怎么调用?
通过兼容 OpenAI 的 /v1/decisions 端点调用,也可以使用 OpenAI SDK、AI SDK、现有的 HTTP API /v1/evaluate 或 AI CLI。
Decisions API 返回的是生成文本吗?
不是。决策模型针对共享输入回答带类型的问题,返回概率、选项和分数,而不是生成文本。
Decisions API 适合哪些应用场景?
适合路由、分流、护栏和评分(rubric scoring)。
一次请求可以同时问多种类型的问题吗?
可以。能在一次请求中对同一输入同时提出是非(predicate)、选择和评分问题。
使用 Decisions API 需要什么版本的 SDK?
JavaScript 需要 OpenAI SDK 7.30.0 或更高版本,Python 需要 3.26.0 或更高版本;AI SDK 中 experimental_decide 需要 ai 7.0.128 或更高版本。
openai/gpt-6-luna-decisions 和 openai/gpt-6-luna 有什么区别?
openai/gpt-6-luna-decisions 是独立的模型 ID,请求会发往 Decisions API 并按该 API 的费率计费;openai/gpt-6-luna 仍是用于文本生成的语言模型。