准则折叠与损失分布控制
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文讨论了“准则崩溃”的概念,即在优化一个指标时,可能会导致另一个指标达到最优。研究发现在不同学习标准下,错误概率最小化的崩溃条件,包括CVaR、倾斜ERM等风险。通过非单调标准的升降式算法,展示了在具有伯努利分布损失的情况下的崩溃现象。同时,研究还发现倾斜ERM等单调准则无法避免崩溃现象,而非单调的替代准则可以避免。
🎯
关键要点
- 本文讨论了“准则崩溃”的概念。
- 优化一种指标可能导致另一种指标达到最优性。
- 研究了在不同学习标准下,错误概率最小化的崩溃条件。
- 涵盖了CVaR、倾斜ERM等风险。
- 展示了在伯努利分布损失情况下的崩溃现象。
- 发现倾斜ERM等单调准则无法避免崩溃现象。
- 非单调的替代准则可以避免崩溃现象。
➡️