突破随机优化问题中的重尾噪声障碍
原文中文,约400字,阅读约需1分钟。发表于: 。我们针对具有结构密度的重尾噪声的随机优化问题展开研究,证明在随机梯度具有有限阶矩(α ∈ (1, 2])时,可以获得比 Ο(K^(-2 (α - 1)/α))...
该研究探讨了具有结构密度的重尾噪声的随机优化问题,证明了在随机梯度具有有限阶矩时可以获得更快的收敛速率,并使用平滑的中值均值稳定随机梯度来实现这些结果。同时,该研究还将其纳入剪辑随机梯度下降和剪辑随机次梯度均值,并推导出了新的高概率复杂度界限。
我们针对具有结构密度的重尾噪声的随机优化问题展开研究,证明在随机梯度具有有限阶矩(α ∈ (1, 2])时,可以获得比 Ο(K^(-2 (α - 1)/α))...
该研究探讨了具有结构密度的重尾噪声的随机优化问题,证明了在随机梯度具有有限阶矩时可以获得更快的收敛速率,并使用平滑的中值均值稳定随机梯度来实现这些结果。同时,该研究还将其纳入剪辑随机梯度下降和剪辑随机次梯度均值,并推导出了新的高概率复杂度界限。