OpenAI Decisions API 现已在 AI Gateway 上线

OpenAI Decisions API 现已在 AI Gateway 上线

💡 原文英文,约400词,阅读约需2分钟。
📝

内容提要

OpenAI Decisions API 已在 AI Gateway 上线,可通过兼容 OpenAI 的 /v1/decisions 端点调用。该模型针对共享输入回答带类型的问题,返回概率、选项和分数而非生成文本,适用于路由、分流、护栏和评分,并支持在一次请求中同时提出是非、选择和评分问题。需使用指定版本的 OpenAI SDK 或 AI SDK。

🔎

延伸解读

决策模型与语言模型的区别

文章指出,openai/gpt-6-luna-decisions 与 openai/gpt-6-luna 是两个独立的模型 ID。前者专用于 Decisions API,返回概率、选项和分数;后者仍是用于文本生成的语言模型。请求决策 ID 会路由到 Decisions API 并按该 API 的费率计费。这意味着开发者不能混用两者,需要根据任务类型选择正确的模型 ID。

一次请求支持多种问题类型

Decisions API 允许在同一个请求中针对共享输入提出是非、选择和评分三类问题。每个问题通过 name 标识,回答会按问题顺序返回并携带对应的 name。这种设计适合需要同时进行路由、分流、护栏和评分等判断的场景,避免多次调用模型,提升效率。

升级与兼容性要求

使用 decisions.create 需要 OpenAI SDK 7.30.0 或更高版本(JavaScript),或 3.26.0 或更高版本(Python)。在 AI SDK 中,experimental_decide 要求 ai 7.0.128 或更高版本。此外,AI SDK 中是非类型称为 boolean,问题以名称为键,每个键会对应到 answers 中的键。开发者需注意版本和命名差异。

调用方式与模型选择

除了 OpenAI SDK 和 AI SDK,还可以通过现有的 HTTP API /v1/evaluate 或 AI CLI 调用。模型字段可设置为任何决策模型,包括 Jev、Liquid d1 和 Laya。文章建议查阅 OpenAI 兼容的 Decisions API 参考以了解请求限制和错误格式,或浏览 AI Gateway 上的所有决策模型。

❓

Q&A

OpenAI Decisions API 在 AI Gateway 上怎么调用?

通过兼容 OpenAI 的 /v1/decisions 端点调用,也可以使用 OpenAI SDK、AI SDK、现有的 HTTP API /v1/evaluate 或 AI CLI。

Decisions API 返回的是生成文本吗?

不是。决策模型针对共享输入回答带类型的问题,返回概率、选项和分数,而不是生成文本。

Decisions API 适合哪些应用场景?

适合路由、分流、护栏和评分(rubric scoring)。

一次请求可以同时问多种类型的问题吗?

可以。能在一次请求中对同一输入同时提出是非(predicate)、选择和评分问题。

使用 Decisions API 需要什么版本的 SDK?

JavaScript 需要 OpenAI SDK 7.30.0 或更高版本,Python 需要 3.26.0 或更高版本;AI SDK 中 experimental_decide 需要 ai 7.0.128 或更高版本。

openai/gpt-6-luna-decisions 和 openai/gpt-6-luna 有什么区别?

openai/gpt-6-luna-decisions 是独立的模型 ID,请求会发往 Decisions API 并按该 API 的费率计费;openai/gpt-6-luna 仍是用于文本生成的语言模型。

🏷️

标签

➡️

继续阅读