BriefGPT - AI 论文速递 · 2023-10-03T00:00:00Z 趋向无深度限制的训练：无梯度爆炸的批归一化 💡 原文中文，约300字，阅读约需1分钟。 📝 内容提要 本文介绍了一种带有线性激活函数和批归一化的多层感知机模型，证明了其正向信号传播特性的精确表征。同时，提出了一种激活函数塑形方案，能够在某些非线性激活函数下实现类似的特性。在线性独立的输入样本情况下，该模型能够渐近地保持梯度有界的特性。 🏷️ 标签 多层感知机 批归一化 梯度有界 激活函数塑形 线性激活函数 阅读原文 生成长图 分享链接 已复制链接
