从 LLM 到 NMT：借助 Claude 推动低资源机器翻译的发展
内容提要
本文研究了大型语言模型在多语言机器翻译中的优势与挑战，评估了四种模型在102种语言上的表现。研究发现，低资源语言的翻译能力较弱，尤其是ChatGPT在84.1%的低资源语言中表现不如传统模型。提出的新微调方法ALMA显著提升了翻译性能，并探讨了通过上下文学习和生成式翻译范式改善翻译质量的途径。
延伸解读
低资源语言翻译的瓶颈
文章指出，大型语言模型在低资源语言上的翻译能力较弱，尤其是ChatGPT在84.1%的低资源语言中表现不如传统机器翻译模型。语言的资源水平是决定ChatGPT相对翻译能力的最重要特征，其在低资源语言和非洲语言上处于劣势。这表明，尽管LLM在高资源语言上表现优异，但在低资源场景下仍面临挑战。
ALMA微调方法的突破
针对低资源翻译的不足，文章提出了新的微调方法ALMA，并在WMT'21和WMT'22测试集上相比之前工作和7B/13B参数模型有显著性能提升。ALMA为机器翻译领域的新训练范式奠定了基础，展示了通过针对性微调提升模型翻译能力的潜力。
生成式翻译与上下文学习
文章探讨了利用上下文学习和生成式翻译范式改进翻译质量的途径。例如，GenTranslate范式能从多个候选译文中生成更高质量的翻译，并在多种基准测试中优于现有模型。这些方法为提升LLM在机器翻译中的表现提供了新思路，尤其在处理语义歧义时，能匹敌或超越DeepL和NLLB等先进系统。
Q&A
大型语言模型在多语言机器翻译中有哪些优势？
大型语言模型在多语言机器翻译中能够处理多种语言，提供更丰富的语言知识和推理能力，提升翻译质量。
低资源语言的翻译能力为何较弱？
低资源语言的翻译能力较弱主要是因为缺乏足够的训练数据和资源，导致模型在这些语言上的表现不如传统模型。
ALMA微调方法如何提升翻译性能？
ALMA微调方法通过针对翻译任务设计，显著提升了模型在低资源语言上的翻译性能，为机器翻译的新训练范式奠定基础。
ChatGPT在低资源语言上的表现如何？
研究发现，ChatGPT在84.1%的低资源语言中表现不如传统机器翻译模型，显示出其在这些语言上的劣势。
如何通过上下文学习改善翻译质量？
通过上下文学习，可以更好地理解语境，从而提高翻译的准确性和流畅性，尤其是在处理歧义时。
大型语言模型在高资源语言上的表现如何？
在某些高资源语言上，GPT模型的表现接近或超过传统机器翻译模型，显示出其在这些语言上的优势。
