分布时变在线随机优化在条件风险价值统计学习中的应用

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文研究了随时间变化的分布的随机优化问题序列,应用在线随机梯度下降并建立了其动态遗憾界,采用Wasserstein距离。同时,建立了在线随机近端梯度下降的遗憾界,并将其应用于CVaR学习问题。通过改进现有证明,得到了在线随机梯度下降的遗憾界。

🎯

关键要点

  • 本文研究随时间变化的分布的随机优化问题序列。
  • 假设损失函数满足Polyak-Lojasiewicz条件。
  • 应用在线随机梯度下降并建立动态遗憾界。
  • 动态遗憾界考虑随机性引起的累积分布漂移和累积梯度偏差。
  • 采用Wasserstein距离作为分布测度,适用于无绝对连续性假设或时变支持集的情况。
  • 建立在线随机近端梯度下降的遗憾界,适用于正则化目标函数。
  • 展示框架如何应用于条件风险价值(CVaR)学习问题。
  • 改进了对CVaR问题PL条件的现有证明,得到了在线随机梯度下降的遗憾界。
➡️

继续阅读