【3.0】决策树

决策树是一种简单易懂的机器学习算法，用于分类任务。它通过选择最优特征来划分数据集，直到所有数据正确分类或无法继续划分。决策树的优点是计算复杂度低、结果易于理解，但可能会过度匹配。常见的决策树算法有ID3、C4.5、CART、CHAID、随机森林和梯度提升树。决策树的构造过程使用信息熵来度量数据集无序程度，选择最大信息增益的特征划分数据集。可以用Python代码实现决策树构造，并用Graphviz包绘制树形图。决策树可序列化存储，方便调用。可应用于实际问题，如预测隐形眼镜类型。