一个非单调平滑激活函数
原文中文,约300字,阅读约需1分钟。发表于: 。本研究提出了一种名为 Sqish 的新型激活函数,作为现有激活函数的替代品,我们展示了它在分类、目标检测、分割任务和对抗性鲁棒性实验中的优越性,在 CIFAR100 数据集上,使用 ShuffleNet V2 模型在 FGSM 对抗攻击中,相较于 ReLU 取得了 8.21% 的改进,并且在 CIFAR100 数据集上,使用 ShuffleNet V2 模型进行图像分类,相较于 ReLU...
本文介绍了一种名为Sqish的新型激活函数,可替代现有的激活函数。作者展示了Sqish在分类、目标检测、分割任务和对抗性鲁棒性实验中的优越性。在CIFAR100数据集上,使用ShuffleNet V2模型在FGSM对抗攻击中,相较于ReLU取得了8.21%的改进,并且在CIFAR100数据集上,使用ShuffleNet V2模型进行图像分类,相较于ReLU取得了5.87%的改进。