神经网络分类器的过度风险收敛速率

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

本文研究了基于神经网络的插件分类器在二元分类设置中的性能,以其超出风险的度量为基准。研究了函数类别很大,但可以利用神经网络的逼近能力。最后,证明所获得的速率实际上是最小最大优化的,尽管存在一个对数因子。

🎯

关键要点

  • 本文研究了基于神经网络的插件分类器在二元分类设置中的性能。
  • 研究以超出风险的度量为基准,考虑了更一般的实践场景。
  • 要近似的函数类别包括了 Barron 函数作为一个合适的子集。
  • 构建的神经网络分类器是一个替代损失的最小化者,适合应用基于梯度下降的数值优化方法。
  • 考虑的函数类别很大,最优速率不可能更快于 n 的负一次方。
  • 分析了神经网络的估计和逼近特性,以获得超出风险的无关维度、均匀收敛速率。
  • 证明所获得的速率是最小最大优化的,尽管存在一个对数因子。
  • 最小最大下界展示了这一情景中边际假设的效果。
➡️

继续阅读