基于随机对偶平均的快速期望对数损失最小化
原文中文,约300字,阅读约需1分钟。发表于: 。本文介绍了一种用于最小化预期对数损失的随机一阶算法,解决了凸优化问题中由于损失函数的缺乏 Lipschitz 连续性和平滑性而导致标准迭代复杂度保证不直接适用的问题,提出的算法取得了比现有方法更好的复杂度和性能。
该文介绍了使用随机梯度下降算法解决Lipschitz和强凸函数问题,证明了最终迭代的误差高概率为O(log(T)/T)。同时,探讨了确定性梯度下降和后缀平均法的误差界,并证明了使用随机梯度下降解决Lipschitz和凸函数问题后,最终迭代的误差高概率为O(log(T)/sqrt(T))。