研究提出了一种主动遗忘的预训练策略,提升大型语言模型在非英语语言上的表现。该方法使解码器语言模型更有效地进行跨语言迁移,实验表明模型在适应新语言时表现优异,并在多个任务中取得更好成绩。
完成下面两步后,将自动完成登录并继续当前操作。