TSSR:神经网络的截断有符号平方根激活函数
原文约200字/词,阅读约需1分钟。发表于: 。本文介绍了一种名为 Truncated and Signed Square Root (TSSR) 的新型激活函数,具有奇、非线性、单调和可微分的特点,其梯度是连续且始终为正。多个实验证实,所提出的 TSSR 比其他最先进的激活函数具有更好的性能。该函数对于神经网络模型的发展具有重要意义,并可应用于计算机视觉、自然语言处理和语音识别等领域的广泛应用。
本文介绍了一种名为TSSR的新型激活函数,具有奇、非线性、单调和可微分的特点,梯度连续且始终为正。实验证实TSSR比其他激活函数性能更好,对神经网络模型发展和计算机视觉、自然语言处理、语音识别等领域有重要意义。