欠参数化的学生网络应该复制还是平均教师权重?

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文研究了使用n个神经元的神经网络逼近具有一层隐藏神经元和k个神经元的神经网络的问题,提供了对传统激活函数的非平凡临界点的闭式解,并发现欠参数化网络的最优解具有普遍结构。

🏷️

标签

➡️

继续阅读