内容提要
谷歌Gemini 3.8 Live与Extended Thinking已上线AI Gateway。Live支持实时音频、视觉定位、97种语言自动切换及后台工具调用;Extended Thinking增加与语音并行的多步推理,可边回应边播报进度。两者均可通过AI SDK实时API接入,需安装Gateway提供商和WebSocket客户端,获取短期令牌后连接使用。
延伸解读
实时语音与视觉定位的适用场景
Gemini 3.8 Live 支持实时音频、视觉定位和后台工具调用,适合语音助手、对话式体验以及通过音频回应的应用。视觉定位意味着模型能结合画面信息进行交互,而工具调用可在对话不中断的情况下后台执行,这为需要边聊边查资料或多任务并行的场景提供了基础。
Extended Thinking 的并行推理特点
Extended Thinking 版本在语音交互基础上增加了与语音并行的多步推理。它能在不打断对话的情况下确认请求并播报进度,适合需要复杂思考但仍要保持自然语音节奏的任务。代码示例显示,该版本可通过 thinkingLevel 或 thinkingBudget 配置思考强度,但两者只能设置其一。
接入方式与令牌机制
两个模型均通过 AI SDK 的实时 API 接入。开发者需安装 Gateway 提供商和 WebSocket 客户端,先获取短期令牌,再打开 WebSocket 连接,并使用模型适配器序列化和解析实时事件。示例中通过 gateway.experimental_realtime.getToken 获取令牌和连接地址,随后建立连接并发送会话更新与用户消息。
AI Gateway 的统一管理价值
AI Gateway 提供统一 API 来调用模型、跟踪用量与成本,并配置重试、故障转移和性能优化,以提升高于提供商自身的可用性。对于需要稳定实时语音服务的应用,这意味着可以在同一套接入层管理多个模型,减少直接对接不同提供商带来的运维复杂度。
Q&A
Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 现在可以在哪里使用?
这两个模型现在都可以在 AI Gateway 上使用。
Gemini 3.8 Live 支持哪些主要功能?
它支持实时音频、视觉定位、自动切换 97 种语言,以及在对话继续时进行后台工具调用。
Gemini 3.8 Live Extended Thinking 与普通 Live 模型有什么不同?
Extended Thinking 增加了与语音并行的多步推理,能够在不中断对话的情况下确认请求并播报进度。
如何通过 AI SDK 接入 Gemini 3.8 Live 模型?
使用 AI SDK 的实时 API,安装 Gateway 提供商和 WebSocket 客户端(如 pnpm add @ai-sdk/gateway@latest ws),然后获取短期令牌,打开 WebSocket,并使用模型适配器序列化和解析实时事件。
在代码中如何配置 Extended Thinking 的思考级别?
在 session-update 事件的 providerOptions 中设置 google.thinkingConfig.thinkingLevel(如 'LOW'),或者使用 thinkingBudget,但只能设置其中一个。
AI Gateway 提供了哪些统一管理功能?
AI Gateway 提供统一的 API 来调用模型、跟踪使用量和成本,并配置重试、故障转移和性能优化,以实现高于提供商的上线时间。