微软新款语音AI能在你话未说完时就开始理解你的意图

微软新款语音AI能在你话未说完时就开始理解你的意图

💡 原文英文,约1100词,阅读约需4分钟。
📝

内容提要

微软在Foundry平台推出三款语音AI模型:MAI-Transcribe-2-Streaming可实时转写语音,数百毫秒内生成初步结果并逐步修正,在准确率榜单上排名第一;MAI-Voice-2.1主打多语言自然语音合成;Flash版优化高并发场景的响应速度与成本。业内人士认为语音AI已趋成熟,但真正难点在于判断对话轮次,延迟与轮次管理须同步改进,否则加速反而导致更多打断。

🔎

延伸解读

实时转写的“部分结果”机制

MAI-Transcribe-2-Streaming 在收到音频后数百毫秒内生成初步转写(partials),并随上下文逐步修正,直到话语结束才输出稳定文本。这意味着应用可以在用户说话过程中就开始识别意图,例如客服代理提前判断来电需求,或语音助手更早准备工具调用。但文章也指出,这种“边听边理解”依赖模型对未完成语句的假设,最终准确性仍需在完整话语结束后验证。

延迟降低不等于对话更自然

Phonely 的研究者指出,语音代理的真正难点在于判断对话轮次——即对方是说完还是在换气。他们发现,加快数据管道反而让代理更早插话;三分之二的过早回应因用户继续说话而被取消,但若延迟减半,这些就会变成可听见的打断。因此,文章强调延迟与轮次管理必须同步改进,否则单纯加速可能让对话体验更差。

模型选择:表现力与规模成本的权衡

微软提供 MAI-Voice-2.1 和 Flash 两个语音合成版本。前者优先“表现力保真度”,适合对自然度要求高的场景;后者针对高并发语音应用优化响应速度与成本。开发者需根据实际业务在自然语音与规模化响应之间取舍。文章未给出具体价格或性能数字,但明确 Flash 定位为实时支持代理、语音助手等需要快速生成语音回复的场景。

语音AI落地还需工程约束

Phonely 的 CEO 提到,早期托管语音请求可能排队 30 秒,导致通话挂断;他们通过自建路由和拥有模型队列将响应降至 120 毫秒。他还强调,不应把关键步骤交给大模型,而应在代码中强制保证,例如退款前必须获取姓名、邮箱和出生日期。这提示读者:微软发布模型只是起点,实际部署还需在基础设施和流程控制上做大量工作。

❓

Q&A

微软最新发布的语音AI模型有哪些?各自有什么特点?

微软在Foundry平台推出了三款语音AI模型:MAI-Transcribe-2-Streaming可实时转写语音,在数百毫秒内生成初步结果并逐步修正,在准确率榜单上排名第一;MAI-Voice-2.1主打多语言自然语音合成,注重表达保真度;MAI-Voice-2.1-Flash优化了高并发场景的响应速度与成本,适合需要平衡自然语音与响应速度的大规模应用。

MAI-Transcribe-2-Streaming是如何实现实时转写的?

该模型在收到音频后的数百毫秒内就会生成初步的转写假设(称为partials),然后随着更多上下文的到来不断修正这些假设,直到话语结束时才确定最终稳定的转写文本。它还具有自动语言检测功能,能在说话过程中几乎同步呈现文字。

语音AI目前面临的主要挑战是什么?

业内人士指出,语音AI的难点不在于语音识别和合成两端,而在于判断对话轮次——即模型需要决定呼叫者是否已经说完或只是在呼吸间歇。如果延迟降低但轮次管理没有同步改进,加速反而会导致更多打断。Phonely的经验是,三分之二的情况下代理过早介入,但未被察觉,因为呼叫者很快继续说话;若将延迟减半,这些介入就会变成可听见的打断。因此延迟和轮次管理必须同步提升。

MAI-Voice-2.1和Flash版本应该如何选择?

开发者应根据优先级选择:如果注重表达保真度(expressive fidelity),应选择MAI-Voice-2.1;如果需要在大规模场景下平衡自然语音、响应速度和成本,则选择MAI-Voice-2.1-Flash。Flash版本特别适合实时支持代理、语音助手等需要生成语音响应的应用。

微软的语音AI模型在准确率方面表现如何?

根据微软产品开发高级总监Naomi Moneypenny的博客,MAI-Transcribe-2-Streaming在基于基准测试的Artificial Analysis排行榜上,无论是部分转写还是最终转写,准确率均排名第一。

语音AI的基础设施过去存在什么问题?现在有何改进?

过去,对托管模型的语音请求可能排在数千个请求之后等待30秒,在电话场景中会导致用户挂断。Phonely等公司通过自建路由基础设施来寻找负载最低的端点,并拥有模型队列,从而将响应时间降至120毫秒。微软新模型也优化了延迟,能在数百毫秒内返回初步结果。

🏷️

标签

➡️

继续阅读