Anjhon’s Blog
·
机器学习样本不平衡问题
💡
原文中文，约6000字，阅读约需15分钟。
📝
内容提要
本文介绍了解决样本不平衡问题的常用方法，包括权重法和采样法。评估指标包括精确率、召回率、F1值、ROC曲线和PR曲线。ROC曲线适用于整体性能评估，PR曲线适用于正例预测评估。采样法可使用随机欠采样和SMOTE算法。若模型未提升，需检查数据获取过程是否存在问题。
🎯
关键要点
- 样本不平衡问题在生产过程中普遍存在，处理不当会影响模型效果。
- 样本不平衡是指各类别样本比例悬殊，通常在分类问题中需要处理。
- 没有固定的比例阈值来定义样本不平衡，常用的标准是样本数量少于总样本的10%。
- 评估指标包括精确率、召回率、F1值、ROC曲线和PR曲线。
- ROC曲线适用于整体性能评估，PR曲线适用于正例预测评估。
- 权重法通过为每个类别加权来处理样本不平衡，样本数多的类别权重低，反之则高。
- 采样法包括随机欠采样和SMOTE算法，前者从多数类中随机剔除样本，后者通过插值生成新样本。
- 随机过采样已不常用，因其可能导致过拟合。
- SMOTE通过在少数类样本之间插值生成新样本，建议与随机欠采样结合使用。
- 如果模型未提升，需检查数据获取过程或数据本身是否适合建模。
➡️
