Gemini Decisions API:快速、校准的多模态决策
内容提要
谷歌发布Gemini Decisions API及Gemini Decision 1模型,专为工具选择、策略检查、模型路由等封闭式决策设计。支持文本、图像、音频、视频、PDF多模态输入(最多256K token)及最多1000个问题,单次前向传播直接输出概率与置信度,端到端延迟150-250毫秒。每百万输入token收费0.10美元,输出token免费。支持是/否、多选、评分三类问题。谷歌内部已用于Gemini Notebook动态路由、Stitch快速设计、CC表情选择及搜索安全检测。
延伸解读
从生成到评分:决策API的范式转变
Gemini Decisions API 不再逐token生成文本,而是单次前向传播直接对候选选项打分,输出概率和置信度。这种设计将延迟压缩到150-250毫秒,且输出token免费,适合工具选择、策略检查等封闭式决策。与生成式API相比,它避免了冗长推理过程,但仅适用于有明确选项边界的场景,不适合开放-ended生成任务。
多模态与多问题批处理的成本优势
一次请求可传入文本、图像、音频、视频、PDF(最多256K token),并同时评估最多1000个独立问题,共享输入只计费一次。这意味着在需要综合多种信息源做判断时(如结合通话录音和账户元数据),成本不会随问题数量线性增长。但需注意,每个问题仍会添加自身的指令和标准token,且图像/视频分辨率可调以控制视觉细节和token成本。
置信度分数:为模糊决策设计回退机制
每个答案都附带0到1的置信度分数,开发者可据此将低置信度案例路由到备用逻辑或人工审核。这降低了自动化决策的风险,尤其适合安全检测、内容审核等容错率低的场景。但文章未说明置信度分数的校准方法或阈值建议,实际应用中需结合业务数据自行验证和调整。
内部实践揭示的适用边界
谷歌内部已将Decisions API用于Gemini Notebook的动态模型路由、Stitch的快速设计迭代、CC的表情选择以及搜索的MCP工具安全层。这些场景的共同点是:选项有限、需要低延迟、且可接受概率性输出。然而,文章未提供这些应用的具体准确率或失败案例,读者在借鉴时需评估自身场景对错误决策的容忍度。
Q&A
Gemini Decisions API 是什么?它主要用来做什么?
Gemini Decisions API 是谷歌推出的新端点,由 Gemini Decision 1 模型驱动,专为快速、封闭式决策设计,如工具选择、策略检查、模型路由和上下文分级。它通过单次前向传播对候选选项进行评分,直接返回概率和置信度,而不是逐 token 生成文本。
Gemini Decision 1 支持哪些输入类型和问题类型?
支持文本、图像、音频、视频和 PDF 多模态输入(最多 256K token),并可同时提出最多 1000 个独立问题。问题类型包括:是/否(noul)、多选(choice,2-255 个选项)和评分(score,有序评分标准)。
Gemini Decisions API 的延迟和定价如何?
端到端延迟为 150-250 毫秒(模型计算中位数 50-100 毫秒),且从 1 到 100 个问题延迟几乎不变。定价为每百万输入 token 0.10 美元,输出 token 免费。共享输入每次请求只计费一次,每个问题仅增加其指令和标准 token。
Gemini Decision 1 在基准测试中的表现如何?
在涵盖智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1 全面领先,并具有最低的校准误差。与 Gemini 3.5 Flash-Lite 搭配 Interactions API 相比,在共享基准套件上成本降低近 5 倍。
谷歌内部有哪些团队在使用 Decisions API?具体场景是什么?
谷歌内部多个团队已将其作为低延迟控制平面使用:Gemini Notebook 用于动态模型路由,将日常查询延迟降低最多 40%;Stitch 用于快速设计迭代,秒级生成可玩线框图;CC 用于从 200 多个表情中快速选择;Google 搜索用于 MCP 工具的安全层,检测对抗性行为。
如何开始使用 Gemini Decisions API?有哪些生态集成?
可以在 Google AI Studio 获取 API 密钥,使用免费层进行原型设计,并参考 Python、JavaScript 和 REST 指南。生态集成正在推出,包括 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode,同时提供 google-genai SDK,未来将支持 Google Cloud 中的 Gemini。