利用单位语言指导推动无文本语音到语音翻译的语音建模

本研究针对无文本语音到语音翻译(S2ST)模型在提取跨模态语言特征和学习长序列不同语言对齐方面的挑战,提出了单位语言的方法。通过多任务学习,本研究成功解决了源语言和目标语言单位的冲突,实验结果显示该方法在多种语言数据集上相较于强基线显著提升了性能,并与文本训练模型的表现相当。

本研究提出了一种单位语言方法,解决了无文本语音到语音翻译模型在跨模态特征提取和长序列对齐中的挑战。通过多任务学习,显著提升了多语言数据集的性能。

原文中文,约300字,阅读约需1分钟。发表于:
阅读原文