大规模非凸随机约束分布鲁棒优化
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
使用分布稳健优化(DRO)问题中的谱风险不确定性集和 $f$- 散度惩罚构建了一个包括常见风险敏感学习目标的模型。提出了 Prospect 算法,证明其对平滑正则化损失具有线性收敛性。在实证上,展示了 Prospect 算法在分布偏移和公平性基准上的收敛速度比随机梯度和随机鞍点方法快 2-3 倍。
🎯
关键要点
- 使用分布稳健优化(DRO)中的谱风险不确定性集和 $f$- 散度惩罚构建模型。
- 提出了 Prospect 算法,调整一个学习率超参数即可实现线性收敛性。
- Prospect 算法相比于先前算法,减少了超参数调整的复杂性。
- 在实证研究中,Prospect 算法在分布偏移和公平性基准上的收敛速度比随机梯度和随机鞍点方法快 2-3 倍。
🏷️
标签
➡️