ML Zero to One | 04 机器学习基础经验总结
内容提要
本文是《Python深度学习(第2版)》一书第五、六、七章的学习笔记,主要介绍了机器学习的基础知识、评估模型的方法以及改进模型拟合和提高泛化能力的方法。同时讨论了机器学习的通用工作流程和Keras的使用方法。
关键要点
-
本文是《Python深度学习(第2版)》一书第五、六、七章的学习笔记。
-
机器学习的核心难题是过拟合,准确的模型评估和训练与泛化之间的平衡非常重要。
-
机器学习的目标是优化和泛化之间的平衡,稳健拟合是关键。
-
特征选择可以通过计算有用性分数来过滤噪声特征。
-
深度学习泛化的本质与现实世界中的信息结构密切相关。
-
评估机器学习模型时需要将数据划分为训练集、验证集和测试集。
-
三种经典评估方法包括简单的留出验证、K折交叉验证和带有打乱数据的重复K折交叉验证。
-
改进模型拟合的方法包括调节梯度下降参数、利用更好的架构预设和提高模型容量。
-
提高泛化能力的方法包括数据集管理、特征工程、提前终止和模型正则化。
-
机器学习的通用工作流程包括定义任务、开发模型和部署模型。
-
定义任务时需要准确识别输入数据、预测目标和机器学习任务类型。
-
开发模型的第一步是准备数据,包括向量化和规范化。
-
选择评估方法时可以从简单留出验证、K折交叉验证和重复K折交叉验证中选择。
-
模型的部署可以通过RESTful API、在设备上或在浏览器中进行。
-
Keras提供了三种构建模型的方法:序贯模型、函数式API和模型子类化。
-
函数式API适合构建复杂的多输入、多输出模型,具有更好的灵活性。
-
模型子类化允许在call()方法中使用循环或递归,创建更复杂的模型。
-
Keras的内置训练和评估循环可以通过自定义指标和回调函数进行扩展。
-
编写自定义训练和评估循环可以实现更高效的模型训练。
-
总结了机器学习工作中的经验和通用工作流程,深入研究了Keras模型构建方法。