LightGBM算法详解

LightGBM算法详解

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

LightGBM是一个高性能的分布式梯度提升决策树框架,用于分类、回归、排序任务等。它属于Boosting算法的一种,可以通过改变样本权重或修改样本Label来优化模型。决策树的学习过程可以分为两种。

🎯

关键要点

  • LightGBM 是一个高性能的分布式梯度提升决策树框架,适用于分类、回归和排序任务。
  • LightGBM 属于 Boosting 算法,通过线性组合多个模型来完成任务。
  • Boosting 分为两种:Ada Boost 和 Gradient Boost。
  • Ada Boost 根据当前的损失改变样本权重,控制后续子模型的产生。
  • Gradient Boost 直接修改样本标签,倾向于降低训练误差。
  • GBDT 是 Gradient Boosting 和决策树的结合,每个基学习器都是一个决策树。
➡️

继续阅读