本文介绍了一种名为稳定蒸馏的方法,用于持续预训练和提升目标领域自动语音识别(ASR)性能。该方法通过自蒸馏作为正则化方式,减轻了持续预训练中的过拟合问题。实验结果表明,稳定蒸馏在不同实验设置中胜过了所有基线方法,WER 提高了0.8-7个百分点。
本文介绍了稳定蒸馏方法,用于提升自动语音识别在目标领域的性能。该方法通过自蒸馏作为持续预训练的正则化方式,减轻了源领域与目标领域不同时的过拟合问题。实验结果表明,稳定蒸馏方法在不同实验设置中胜过了所有基线方法,WER 提高了0.8-7个百分点。
完成下面两步后,将自动完成登录并继续当前操作。