动态 ASR 路径:多语音 ASR 模型高效剪枝的自适应遮罩方法
原文中文,约200字,阅读约需1分钟。发表于: 。本文提出了一种自适应掩蔽方法,用于高效地修剪多语言自动语音识别模型,并展示了该方法在目标为稀疏的单语言模型时的优势,同时减少了语言特定修剪的需求。
该研究评估了基于结构化剪枝在多语言预训练语言模型上的设置、算法和效率,并提出了一种动态稀疏化的方法。实验结果填补了关于多语言预训练模型上的结构化剪枝研究的空白,为未来的研究提供启示。
本文提出了一种自适应掩蔽方法,用于高效地修剪多语言自动语音识别模型,并展示了该方法在目标为稀疏的单语言模型时的优势,同时减少了语言特定修剪的需求。
该研究评估了基于结构化剪枝在多语言预训练语言模型上的设置、算法和效率,并提出了一种动态稀疏化的方法。实验结果填补了关于多语言预训练模型上的结构化剪枝研究的空白,为未来的研究提供启示。