SCSC:强化卷积神经网络和 Transformer 的空间跨尺度卷积模块
原文中文,约400字,阅读约需1分钟。发表于: 。本论文介绍了一个名为空间跨尺度卷积(SCSC)的模块,通过验证其在改善 CNN 和 Transformers 方面的有效性。SCSC 引入了一种高效的空间跨尺度编码器和空间嵌入模块,以在一个层次中捕捉各种特征。通过在人脸识别任务中使用 SCSC 的 FaceResNet,在 68% 的 FLOPs 和 79% 的参数减少情况下,提高了 2.7% 的性能;在 ImageNet...
本文介绍了空间跨尺度卷积(SCSC)模块,验证了其在改善CNN和Transformers方面的有效性。SCSC引入了高效的空间跨尺度编码器和空间嵌入模块,以捕捉各种特征。在人脸识别任务中,使用SCSC的FaceResNet在减少68%的FLOPs和79%的参数的情况下,性能提高了2.7%。在ImageNet分类任务中,使用SCSC的Swin Transformer在减少22%的FLOPs的情况下,性能更好。使用SCSC嵌入的传统网络(如ResNet)与Swin Transformer的性能相当。