Deep Networks as Hamiltonians

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本文探讨深度学习理论中网络输出的分析方法,将随机初始化的多层感知机视为输入的哈密顿量,揭示了能量景观的性质,特别是无限宽度下近全局最小值的结构,并分析了不同激活函数对能量景观的影响。

🎯

关键要点

  • 本文探讨了深度学习理论中网络输出的分析方法。
  • 将随机初始化的多层感知机视为输入的哈密顿量。
  • 揭示了能量景观的性质,特别是在无限宽度下近全局最小值的结构。
  • 分析了不同激活函数对能量景观的影响。
➡️

继续阅读