ImbSAM: 对于类不平衡识别中的锐度感知最小化的深入研究
💡
原文中文,约3300字,阅读约需8分钟。
📝
内容提要
本文研究了类别不平衡挑战对识别任务的影响,发现Sharpness-Aware Minimization (SAM)无法解决泛化问题。为此,提出了Imbalanced-SAM (ImbSAM)算法,通过限制类别无关的SAM的泛化范围来改善对尾类的泛化。实验证明ImbSAM在长尾分类和半监督异常检测等应用中显著提高了性能。
🎯
关键要点
- 类别不平衡是识别任务中的常见挑战,尾类样本稀少。
- Sharpness-Aware Minimization (SAM) 在类别不平衡情况下无法有效解决泛化问题。
- 研究发现,SAM 在尾类上存在严重过拟合,导致泛化瓶颈。
- 提出了 Imbalanced-SAM (ImbSAM) 算法,通过限制 SAM 的泛化范围来改善尾类的泛化能力。
- ImbSAM 在长尾分类和半监督异常检测等应用中显著提高了性能。
➡️