准则折叠与损失分布控制

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文讨论了“准则崩溃”的概念,即在优化一个指标时,可能会导致另一个指标达到最优。研究发现在不同学习标准下,错误概率最小化的崩溃条件,包括CVaR、倾斜ERM等风险。通过非单调标准的升降式算法,展示了在具有伯努利分布损失的情况下的崩溃现象。同时,研究还发现倾斜ERM等单调准则无法避免崩溃现象,而非单调的替代准则可以避免。

🎯

关键要点

  • 本文讨论了“准则崩溃”的概念。
  • 优化一种指标可能导致另一种指标达到最优性。
  • 研究了在不同学习标准下,错误概率最小化的崩溃条件。
  • 涵盖了CVaR、倾斜ERM等风险。
  • 展示了在伯努利分布损失情况下的崩溃现象。
  • 发现倾斜ERM等单调准则无法避免崩溃现象。
  • 非单调的替代准则可以避免崩溃现象。
➡️

继续阅读