微软发布 VibeVoice-ASR:一种统一的语音转文本模型,旨在一次性处理长达 60 分钟的音频

微软发布 VibeVoice-ASR:一种统一的语音转文本模型,旨在一次性处理长达 60 分钟的音频

💡 原文中文,约2000字,阅读约需5分钟。
📝

内容提要

微软推出了VibeVoice-ASR,一个开源的语音转文本模型,支持最长60分钟的音频处理,输出结构化文本,包括“谁”、“何时”、“什么”。该模型允许用户自定义热词,以提高识别准确性,适合会议记录和长时间通话。

🎯

关键要点

  • 微软推出了VibeVoice-ASR,一个开源的语音转文本模型。
  • 该模型支持最长60分钟的音频处理,输出结构化文本,包括“谁”、“何时”、“什么”。
  • VibeVoice-ASR允许用户自定义热词,以提高识别准确性,适合会议记录和长时间通话。
  • 模型在64K标记长度预算内接收长达60分钟的连续音频输入,保持说话人身份和主题上下文。
  • 自定义热词功能使用户能够针对特定领域调整识别过程,无需重新训练模型。
  • 模型联合执行自动语音识别、人声分割和时间戳功能,返回结构化输出。
  • 使用DER、cpWER和tcpWER评估模型在多说话人长篇数据上的表现。
  • VibeVoice-ASR在VibeVoice开源堆栈中以MIT许可证发布,附带官方权重和微调脚本。

延伸问答

VibeVoice-ASR是什么?

VibeVoice-ASR是微软推出的一个开源语音转文本模型,支持最长60分钟的音频处理,输出结构化文本。

VibeVoice-ASR如何处理长时间音频?

该模型在64K标记长度预算内接收长达60分钟的连续音频输入,保持说话人身份和主题上下文。

用户如何自定义VibeVoice-ASR的热词?

用户可以提供特定的热词,如产品名称或技术术语,模型会根据这些热词调整识别过程,无需重新训练。

VibeVoice-ASR的输出格式是什么样的?

模型返回结构化的转录文本,包含“谁”、“何时”、“什么”等信息,适合下游处理。

VibeVoice-ASR的评估指标有哪些?

评估指标包括DER(说话人分割错误率)、cpWER和tcpWER,主要用于多说话人对话场景。

VibeVoice-ASR的应用场景有哪些?

该模型适合用于会议记录、讲座录音和长时间通话等任务。

➡️

继续阅读