弥合语言差距：通过零-shot跨语言迁移增强多语言提示基础的代码生成

ERNIE-Code是一种面向多语言自然语言和编程语言的语言模型，提供了通用跨语言预训练的两种方法。

研究表明，尽管大型语言模型在某些任务中表现良好，但与较小的微调模型相比，性能仍需改进。

提出了一种无监督提示方法，使用高资源语言的合成样本在低资源语言上进行多语言总结，效果优于有监督的提示。

CodeFuse-13B在代码生成、翻译、注释等任务中表现优异，尤其是在中文提示下。

研究发现，相对简单的模型在机器翻译任务中表现优于多语言大型语言模型，表明训练方法对模型有效性有影响。

通过利用编译器中间表示，改进了代码语言模型的多语言能力，并构建了并行数据集SLTrans。

将LLaMa适应于低资源语言的提示设置是一种高效且成本效益的方法，表现优于翻译和LAFT。

对LLMs在代码生成领域的最新进展进行了综述，分析了学术与实践之间的差距，并提出了关键挑战和机遇。

构建两个数据集，扩展LLaMA和BLOOM的多语言能力到100种语言，并实现了与人类反馈的对齐。