本文提出了一种基于子采样的立方正则化牛顿方法,旨在降低计算复杂度并确保全局收敛性。研究表明,该方法在非凸优化问题中表现优越,尤其在高维情况下收敛速度快。通过随机变体和自适应方差调整,优化了算法的效率,并成功应用于机器学习问题。
本文研究了群等变卷积神经网络如何使用子采样打破对称性的等变性,并探讨了对网络性能的影响。研究发现,常用架构即使输入维度微小变化,也会变得近似等变,而不是完全等变。近似等变网络能够放松等变性约束,并在常见基准数据集上与或胜过完全等变网络。
完成下面两步后,将自动完成登录并继续当前操作。