GPT-Live 如何在六个月内构建响应式语音 AI 实时系统
内容提要
OpenAI推出GPT-Live，实现连续语音交互，移除轮次检测器，采用全双工语音模型和低延迟架构，支持同时听说及异步委托深层推理。系统优化媒体流、有状态推理和协议，缩短启动时间，并通过静默测试确保生产环境稳定，使对话更自然即时。
延伸解读
架构核心：媒体流与业务逻辑分离
GPT-Live 的关键设计是将音频媒体流与应用逻辑分离，音频在专用快速路径上传输，而委托、工具调用等异步处理在 RPC 边界之后进行。这种分离确保慢速的后端服务不会阻塞实时语音，同时为应用定制提供了清晰边界。开发者可独立调整工具和策略，而不影响媒体前端的响应速度。
启动优化：从六次往返到一次
系统通过 WARP 协议将 WebRTC 启动从六次网络往返压缩到一次，并利用 Instant Connect 提前协商 SDP 参数，使客户端仅需一个 UDP 数据包即可启动会话。这些优化大幅缩短了从用户意图到实时媒体流的时间，且 WARP 已作为开放规范推进，有望惠及更广泛的 WebRTC 生态。
生产环境测试：静默测试的价值
在正式发布前，OpenAI 通过静默测试将真实流量路由到新系统，暴露了容量、地理分布和长会话等问题。测试发现容量不仅取决于 GPU，还涉及 CPU 流处理器和网络路径；地理距离显著影响延迟；长会话引发内存和状态恢复挑战。这些经验促使团队改进可观测性和发布控制，为稳定上线奠定基础。
Q&A
GPT-Live 是什么？它和之前的语音系统有什么主要区别？
GPT-Live 是 OpenAI 推出的第三代语音系统，实现了与 AI 的连续语音交互。它移除了轮次检测器，采用全双工语音模型，可以同时听和说，使对话更自然、更即时。
为什么早期的语音系统需要轮次检测器？它有什么问题？
早期的语音系统采用轮次架构，依赖轮次检测器来判断用户何时说完。但检测器面临两难：猜得太早会打断用户，猜得太晚则响应迟钝。只有检测器判断后，LLM 才能开始工作，导致延迟。
GPT-Live 如何实现同时听和说？
GPT-Live 的语音模型是全双工的，可以直接处理音频流，同时接收输入和生成输出，无需独立的轮次检测器。音频流入和流出模型，深层推理和工具调用在异步路径上进行。
GPT-Live 如何减少启动延迟？
GPT-Live 通过两种技术减少启动延迟：一是 WARP（WebRTC 精简往返协议），将媒体和数据启动从六次网络往返减少到一次；二是 Instant Connect，提前协商 SDP 参数，将其移出关键路径，客户端只需一个 UDP 数据包即可启动会话。
GPT-Live 如何处理长时间对话中的上下文增长问题？
GPT-Live 采用动态上下文压缩和模型实例切换机制。当上下文接近限制时，系统在原始模型继续对话的同时，压缩上下文并准备一个使用新上下文的替代模型实例，然后无缝切换，避免媒体中断。
GPT-Live 如何在不中断对话的情况下调用更强大的模型进行深度推理？
GPT-Live 采用异步委托机制。当需要深度推理或工具调用时，语音模型将任务委托给前沿模型（如 GPT-5.5），同时语音模型继续维持对话。系统优化了委托路径的延迟，并预先设置好前沿模型和工具，确保结果快速返回。
GPT-Live 在正式发布前是如何进行测试的？
GPT-Live 进行了静默测试，将少量生产 ChatGPT 语音会话路由到新系统，以只读模式运行推理，同时用户仍由旧系统服务。这暴露了系统在真实流量下的问题，如容量瓶颈、地理分布影响和长时间会话的稳定性。
GPT-Live 的架构如何支持未来的扩展？
GPT-Live 的架构将媒体流与应用逻辑分离，提供了清晰的定制边界，并支持异步委托。它正在成为更广泛的实时交互平台，将驱动 ChatGPT 语音的智能体协调，并支撑即将推出的 GPT-Live API，未来可跨越更多设备、应用和模态。
