What I cannot create, I do not understand-读《深度学习入门》
原文中文,约2200字,阅读约需6分钟。发表于: 。尽管是本入门书籍,不过仍然读的很慢,前后花了十几个小时。读这本书的时候,大学里高等代数里的矩阵乘法、秩的概念、最优化理论里的梯度下降、小波分析,楞是一点都想不起来🙈。 1. 感知机 感知机的想法很直白: 其中 x 是输入,w 是权重,θ是阈值。y 是输出,大于阈值输出 1,小于阈值输出 0. 通过设置不同的权重和阈值,我们可以使用感知机实现与门(两个输入均为 1 时输出1,其他时候则输出...
本文介绍了感知机、神经网络、误差反向传播法和SGD的优化方法。感知机通过权重和阈值实现与门、与非门和或门,但无法表示异或门。神经网络通过自动生成权重值实现与门,引入了激活函数、训练数据和损失函数等概念。误差反向传播法通过链式法则和反向传播计算梯度,提高了求解梯度的效率。SGD的优化方法包括Momentum、AdaGard和Adam。作者总结了卷积神经网络和强化学习等内容,并强调了学习算法的重要性。