本论文提出了一种新的多层次多语种知识蒸馏方法（MMKD），利用英语BERT的语义表征知识和师生框架，提高预先训练的多语种语言模型的性能。实验证明，MMKD在评价任务中表现更好，并在低资源语言上获得显著的性能提升。

本论文提出了一种新的多层次多语种知识蒸馏方法（MMKD），通过使用英语 BERT 的语义表征知识和师生框架，提高预先训练的多语种语言模型的性能。实验证明，MMKD 在跨语言评价任务中表现更好，并在低资源语言上获得显著的性能提升。