高效超网络训练与正交Softmax用于可扩展的ASR模型压缩

本研究解决了ASR系统在不同硬件环境下模型适应性不足的问题。提出的正交Softmax方法能有效地在超网络中识别最佳子网络，从而实现资源高效的模型选择。实验证明，该方法在多个模型尺寸下的表现优于单独训练的模型，具有重要的应用潜力。