本文介绍了一种轻量级的语言-语音预训练方法,利用知识蒸馏技术改善文本与音频的对齐,提出了PAD、L2KD、MiniLLM等新方法,在口语理解和语音识别任务中显著提升性能,有效解决了流式任务中的知识传递和模型适应问题。
完成下面两步后,将自动完成登录并继续当前操作。