向可扩展高效的设备端 ASR 迈进：迁移学习

多语言预训练和迁移学习对低资源单语言ASR模型的鲁棒性有显著提升作用。使用RNNT损失进行预训练，然后通过最小词错误率损失进行微调，可以降低多国语言的词错误率。领域外预训练相比领域内预训练，提高了WERR28%。罕见词和非罕见词都有所受益，其中罕见词在领域外预训练中改善更大。