OpenAI · 2019-12-05T08:00:00Z 深度双重下降 💡 原文英文，约100词，阅读约需1分钟。 📝 内容提要 我们观察到双重下降现象在CNN、ResNet和变换器中普遍存在：随着模型规模、数据量或训练时间的增加，性能先提升后下降再提升。尽管这一现象常见，但其原因尚不完全清楚，深入研究此现象具有重要意义。 🏷️ 标签 CNN ResNet 双重下降 变换器 性能 阅读原文 生成长图 分享链接 已复制链接
