通过动态激活函数优化前馈和卷积神经网络的性能

本文研究了有理激活函数在神经网络中的应用，实验证明有理神经网络比深度较小的ReLU神经网络更有效地逼近光滑函数。有理激活函数具有灵活性和平滑性，成为替代ReLU的吸引人选择。