BriefGPT - AI 论文速递 · 2025-04-21T00:00:00Z

VeLU: A Variance Enhanced Learning Unit for Deep Neural Networks

📝

内容提要

本研究提出VeLU激活函数，通过动态调整输入方差和结合ArcTan-Sin变换，解决了ReLU在梯度流动和优化稳定性方面的不足，实验结果表明其在视觉基准测试中表现优异。

🏷️

标签

ReLU VeLU 梯度流动 激活函数 视觉基准测试