本文提出LINK方法,通过双语词汇表对高资源语言(英语)预训练数据进行词汇替换,实现跨语言知识迁移。该方法无需额外模型训练或平行数据,仅需低成本双语词典。在八种语言、五种模型规模上评估显示,目标语言下游任务性能显著提升,训练速度最高提升2倍。
完成下面两步后,将自动完成登录并继续当前操作。