本研究探讨了神经机器翻译(NMT)面临的六个核心挑战,特别是在大型语言模型(LLMs)背景下的相关性。尽管LLMs在长句翻译和减少平行数据依赖方面表现优异,但领域不匹配和罕见词预测仍然是主要挑战。研究提出了对比优选优化(CPO)方法以提升性能,并探讨了对齐方法的改进,从而显著提高了翻译质量。
研究者提出了自监督自适应预训练(SAPT)来解决预训练语音模型领域不匹配的问题。实验证明,SAPT在FLEURS基准测试中提高了XLSR的性能,尤其是对于少数语言,增益高达40.1%。同时,在少样本学习设置中应用SAPT也提高了XLSR的样本效率。通过自监督实现持续自适应可以提升多语言语音模型的下游性能。
完成下面两步后,将自动完成登录并继续当前操作。