准则折叠与损失分布控制

本文讨论了“准则崩溃”的概念，即在优化一个指标时，可能会导致另一个指标达到最优。研究发现在不同学习标准下，错误概率最小化的崩溃条件，包括CVaR、倾斜ERM等风险。通过非单调标准的升降式算法，展示了在具有伯努利分布损失的情况下的崩溃现象。同时，研究还发现倾斜ERM等单调准则无法避免崩溃现象，而非单调的替代准则可以避免。