分布时变在线随机优化在条件风险价值统计学习中的应用
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文研究了随时间变化的分布的随机优化问题序列,应用在线随机梯度下降并建立了其动态遗憾界,采用Wasserstein距离。同时,建立了在线随机近端梯度下降的遗憾界,并将其应用于CVaR学习问题。通过改进现有证明,得到了在线随机梯度下降的遗憾界。
🎯
关键要点
-
本文研究随时间变化的分布的随机优化问题序列。
-
假设损失函数满足Polyak-Lojasiewicz条件。
-
应用在线随机梯度下降并建立动态遗憾界。
-
动态遗憾界考虑随机性引起的累积分布漂移和累积梯度偏差。
-
采用Wasserstein距离作为分布测度,适用于无绝对连续性假设或时变支持集的情况。
-
建立在线随机近端梯度下降的遗憾界,适用于正则化目标函数。
-
展示框架如何应用于条件风险价值(CVaR)学习问题。
-
改进了对CVaR问题PL条件的现有证明,得到了在线随机梯度下降的遗憾界。
🏷️