uDistil-Whisper: 通过大规模伪标签进行无标签数据过滤的知识蒸馏

该研究提出了一种无监督或无标签的框架来提炼Whisper模型，使得提炼出的模型在性能上能与教师模型相媲美或更好，并且计算和内存效率更高。