EAT：高效音频 Transformer 的自监督预训练

本文提出了一种改进方法，针对自我监督语音及音频分类中的SSAST模型。通过改进高掩模比率和集成MAE编码器-解码器结构到SSAST中，实现了3倍的加速和2倍的内存使用率降低。在下游任务的微调中，该方法表现更优。对预训练策略进行了评估，并探讨了MAE风格预训练的不同之处。