神经机器翻译中基于 Transformer 的异构编码器扩展

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文研究了Transform模型在机器翻译中的应用,提出了一种操控注意力头以生成多样化翻译的方法,并利用这些多样化翻译进行后向翻译以改进数据增强技术。实验结果表明,多样化翻译可以显著提高翻译任务的性能。

🎯

关键要点

  • 研究Transform模型在机器翻译中的应用。
  • 探讨编码器-解码器多头注意力机制中不同注意力头与翻译候选词的对应关系。
  • 提出操控注意力头以生成多样化翻译的方法。
  • 利用多样化翻译进行后向翻译以改进数据增强技术。
  • 多样化翻译不会严重降低翻译质量。
  • 实验结果表明,多样化翻译显著提高翻译任务的性能。
  • 相关对话响应生成任务的实验验证了多样化的效果。
➡️

继续阅读