神经网络分类器的过度风险收敛速率
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
本文研究了基于神经网络的插件分类器在二元分类设置中的性能,以其超出风险的度量为基准。研究了函数类别很大,但可以利用神经网络的逼近能力。最后,证明所获得的速率实际上是最小最大优化的,尽管存在一个对数因子。
🎯
关键要点
- 本文研究了基于神经网络的插件分类器在二元分类设置中的性能。
- 研究以超出风险的度量为基准,考虑了更一般的实践场景。
- 要近似的函数类别包括了 Barron 函数作为一个合适的子集。
- 构建的神经网络分类器是一个替代损失的最小化者,适合应用基于梯度下降的数值优化方法。
- 考虑的函数类别很大,最优速率不可能更快于 n 的负一次方。
- 分析了神经网络的估计和逼近特性,以获得超出风险的无关维度、均匀收敛速率。
- 证明所获得的速率是最小最大优化的,尽管存在一个对数因子。
- 最小最大下界展示了这一情景中边际假设的效果。
➡️