TSSR:神经网络的截断有符号平方根激活函数
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
本文介绍了一种名为TSSR的新型激活函数,具有奇、非线性、单调和可微分的特点,梯度连续且始终为正。实验证实TSSR比其他激活函数性能更好,对神经网络模型发展和计算机视觉、自然语言处理、语音识别等领域有重要意义。
🎯
关键要点
- 介绍了一种名为TSSR的新型激活函数
- TSSR具有奇、非线性、单调和可微分的特点
- TSSR的梯度是连续且始终为正
- 实验证实TSSR比其他激活函数性能更好
- TSSR对神经网络模型的发展具有重要意义
- TSSR可广泛应用于计算机视觉、自然语言处理和语音识别等领域
➡️