该论文研究了多语言神经机器翻译中的表示转移问题,提出了两种方法来改善零射翻译的性能,并在实验中取得了显著的改善。
本研究提出了一种解决多语言神经机器翻译中零翻译问题的方法,通过移除编码器层中的残差连接,使模型表示更加与特定语言对应。实验证明,该方法在零翻译任务上获得了18.5个BLEU点的提升,并在其他有监督的翻译中表现出高质量。同时,通过对隐藏层输出的检查,证明该方法能够获得更多的语言无关性。
研究发现,单纯使用翻译质量度量多语言神经机器翻译中的知识转移并不足够。研究提出了“表示转移潜力”(RTP)的概念,可测量正向和负向的迁移,并且RTP与翻译质量变化强相关。研究还发现多重并行重叠是一个重要而未被充分利用的特征,开发了一种新型训练方案,可提高低资源语言的翻译质量。
本研究提出了一种有效缓解多语言神经机器翻译中零翻译问题的方法,通过移除编码器层中的残差连接,使模型表示更加与特定语言对应。在零翻译任务中,我们获得了18.5个BLEU点的提升,并在其他有监督的翻译中保持了高质量表现。通过对隐藏层输出的检查,我们证明了该方法能够获得更多的语言无关性。
完成下面两步后,将自动完成登录并继续当前操作。