LiteASR:低秩近似的高效自动语音识别
📝
内容提要
本文针对现代自动语音识别模型在高计算强度下难以高效部署的问题,提出了LiteASR,一个用于ASR编码器的低秩压缩方案。此方法通过主成分分析(PCA)和优化自注意力机制,显著降低了推理成本,同时提高了转录准确性,显示出在效率和性能上的新平衡。
➡️
本文针对现代自动语音识别模型在高计算强度下难以高效部署的问题,提出了LiteASR,一个用于ASR编码器的低秩压缩方案。此方法通过主成分分析(PCA)和优化自注意力机制,显著降低了推理成本,同时提高了转录准确性,显示出在效率和性能上的新平衡。