本研究提出动态双曲正切（DyT）作为变换器中归一化层的替代，证明无归一化的变换器仍可实现相同或更优的性能，挑战了传统归一化层的地位。

Normalization-Free Transformers
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证