通过拉东变换对Sobolev空间中浅层ReLU$^k$神经网络的近似率研究

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

通过研究深度ReLU$^k$网络的表达能力和逼近特性,发现其能有效逼近多项式和高次多项式。证明了深度ReLU$^k$网络可以表示多项式,并得出了网络参数的上界。研究还发现深度ReLU$^k$网络能逼近各种变差空间中的函数,超越了仅由ReLU$^k$激活函数生成的变差空间。

🎯

关键要点

  • 研究深度ReLU$^k$网络的表达能力和逼近特性。
  • 深度ReLU$^k$网络有效逼近多项式和高次多项式。
  • 证明深度ReLU$^k$网络可以表示多项式,并得出网络参数的上界。
  • 研究表明深度ReLU$^k$网络在Sobolev空间和解析函数的子优逼近率。
  • 深度ReLU$^k$网络能逼近多种变差空间中的函数,超越仅由ReLU$^k$激活函数生成的变差空间。
🏷️

标签

➡️

继续阅读