Zyphra 发布 ZONOS3-Mini:仅 1 亿激活参数的开源 TTS 模型

Zyphra 发布 ZONOS3-Mini:仅 1 亿激活参数的开源 TTS 模型

💡 原文中文,约3100字,阅读约需8分钟。
📝

内容提要

Zyphra发布开源TTS模型ZONOS3-Mini,采用稀疏MoE架构,总参数8亿、每token激活约1亿,支持零样本语音克隆与词级表达控制,Apache 2.0协议。可在浏览器WebGPU、Apple Silicon、CPU及服务器GPU上实时运行,单块H100上首字节音频中位数80毫秒。在Zyphra自建基准上居开源模型首位,但测试均为自报,参考片段克隆模式得分明显偏低。

🔎

延伸解读

稀疏MoE带来的部署灵活性

ZONOS3-Mini总参数8亿但每token仅激活约1亿,这种稀疏设计让模型在保持较小计算量的同时拥有更大容量。文章显示它能在浏览器WebGPU、Apple Silicon、CPU及服务器GPU上实时运行,说明激活参数少直接降低了端侧推理门槛。对开发者而言,这意味着同一模型可覆盖从手机到服务器的多种部署场景,而不必为不同硬件准备不同模型。

自报基准的参考价值与局限

文章明确指出所有基准均由Zyphra自己构建并执行,未经独立验证。ZONOS3-Mini在ZTTS2能力指数上以66.2分居开源首位,但参考片段克隆模式得分仅44.7,远低于嵌入模式的66.2。此外其干净集MSR-UTMOS质量分3.07落后于Fish S2 Pro和Qwen3-TTS。读者应将这些排名视为厂商自评,实际选型时需结合自身场景验证。

延迟数据需结合硬件解读

文章给出的延迟数字来自不同设备:单块H100、8路并发下首字节音频中位数80毫秒,M3 MacBook Air上不到150毫秒,Pixel 9浏览器中约570毫秒以内。这些数据覆盖服务器到手机,但各延迟使用不同GPU,不能直接互比。开发者应关注目标硬件对应的数值,而非只看最佳成绩,同时注意峰值吞吐457秒音频/秒是在H100特定并发下测得。

词级控制与克隆模式的选择

ZONOS3-Mini支持零样本语音克隆,可接受最长60秒原始参考音频或192维说话人嵌入。表达控制通过激活引导覆盖语速、情绪等,并能在流式生成中作用于特定词。但文章显示参考片段克隆模式得分明显偏低,嵌入模式表现更好。若应用依赖上传音频片段克隆,需先评估该模式的实际效果,而非直接采用嵌入模式的基准成绩。

❓

Q&A

ZONOS3-Mini 是什么?它有什么主要特点?

ZONOS3-Mini 是 Zyphra 发布的开源文本转语音(TTS)模型,采用稀疏混合专家(MoE)架构,总参数 8 亿,每 token 激活约 1 亿参数。它支持零样本语音克隆和词级表达控制,权重以 Apache 2.0 协议发布,可在浏览器 WebGPU、Apple Silicon、CPU 及服务器 GPU 上实时运行。

ZONOS3-Mini 的架构有哪些创新?

ZONOS3-Mini 在技术栈三层做了改动:1)采用自研的 Zyphra Audio Codec 1(ZAC-1)编解码器,以 15 Hz 运行,包含 10 个码本(1 个语义码本和 9 个声学码本),相比 DAC 词错误率降低 10 倍;2)混合 MoE 主干包含 11 层、模型维度 1,024,序列混合按 3:1 比例(9 层 Gated DeltaNet 加 2 层全局注意力),并加入潜在 MoE、Q 平衡和注意力残差;3)说话人编码器从 Qwen3-TTS 的改为 MECT-B2,可接受最长 60 秒原始参考音频或 192 维说话人嵌入。

ZONOS3-Mini 的基准测试表现如何?有哪些需要注意的地方?

在 Zyphra 自建的 ZTTS2-Eval 基准上,ZONOS3-Mini 在说话人嵌入模式下能力指数得分为 66.2,位列开源模型第一(Fish Audio S2 Pro 为 61.7,MOSS-TTS v1.5 为 60.2)。干净集上 WER 为 7.79,说话人相似度为 83.4。但需注意:所有基准均由 Zyphra 自己构建并执行,未经独立验证;参考片段克隆模式的指数得分仅为 44.7,明显偏低;干净集 MSR-UTMOS 质量分 3.07,落后于 Fish S2 Pro(3.16)和 Qwen3-TTS 1.7B(3.54)。

ZONOS3-Mini 的延迟和吞吐表现怎么样?

在单块 H100、8 路并发请求下,首字节音频(TTFA)中位数为 80 毫秒,峰值吞吐为每秒生成 457 秒音频。在 Pixel 9 浏览器中首字节音频约 570 毫秒以内,在 M3 MacBook Air 上不到 150 毫秒。

开发者如何部署 ZONOS3-Mini?

根据 GitHub 仓库,共有 4 条官方部署路径:1)浏览器:通过 WebGPU 演练场直接在 GPU 上运行,无需安装或服务器;2)NVIDIA 服务器:使用 SGLang-Omni 提供兼容 OpenAI 的 /v1/audio/speech 接口,支持流式输出;3)原生部署:面向 Apple Silicon 的 MLX 服务器,以及面向 CPU、CUDA、Metal 或 Vulkan 的 C++/ggml 服务器与命令行工具;4)托管服务:Zyphra Cloud,运行在 NVIDIA H200 上。

ZONOS3-Mini 的词级语音控制是如何实现的?

身份类控制通过说话人嵌入向量和口音任务向量,覆盖年龄、性别、口音和音质。表达类控制通过激活引导(activation steering),覆盖语速、情绪、投射感和生动度。学习得到的对齐头让引导可以在流式生成过程中作用于特定词。此外,还有一个基于 VoiceCraft 方案的独立编辑模型,可以在生成之后修改句子。

🏷️

标签

➡️

继续阅读