该文综述非自回归机器翻译研究进展,涵盖数据处理、建模、训练、解码及预训练模型应用,并回顾其在语音等领域的延伸。多项研究通过知识蒸馏、多任务学习、CTC、EM框架和AMLNet等方法,在不增加解码开销下提升准确性与速度,缩小与自回归模型的差距。
本文综述非自回归机器翻译进展,包括利用翻译记忆改进Levenshtein Transformer、提出支持插入删除的部分自回归模型以提升解码效率、分析Transformer解码器信息传递并精简前馈模块,以及引入词汇约束、词级质量评估、DSLP深度监督、潜变量模型和并行解码等方法,在保证翻译质量的同时显著加速推理。
本文提出了一种基于仿真学习的非自回归机器翻译框架,该框架在保持翻译质量可比的同时,比自回归模型有更快的翻译速度。实验结果表明,该模型在多个数据集上表现良好,BLEU 值高达 31.85。
完成下面两步后,将自动完成登录并继续当前操作。