AI入门之深度学习：基本概念篇
内容提要
深度学习是机器学习的一个分支，通过多个表示层学习。神经网络是深度学习的模型，使用张量作为基本数据结构。神经网络的运算可以简化为张量运算，包括逐元素运算、张量积和张量变形。优化使用梯度下降法，反向传播是计算梯度的方法之一。使用Python的Keras库可以实现手写数字识别任务。
延伸解读
从符号主义到深度学习：问题解决范式的转变
文章开篇对比了两种计算机工作方法：符号主义人工智能依赖程序员编写明确规则，适合五子棋等定义明确的问题；而机器学习则反过来，从输入数据和答案中自动寻找规则，更适合图像分类、语音识别等模糊任务。这种范式转变意味着，对于难以手动编写规则的任务，我们可以通过提供大量标注数据让系统自己学习，从而扩展了计算机可解决问题的范围。
张量：深度学习数据表示的统一语言
文章强调所有机器学习系统都使用张量作为基本数据结构，并详细介绍了张量的轴、形状和数据类型三个关键属性。从标量、向量、矩阵到更高阶张量，张量能够统一表示各种类型的数据，例如向量数据、时间序列、图像和视频。理解张量的这些属性对于后续构建和操作神经网络至关重要，因为神经网络的运算最终都转化为张量运算。
梯度下降与反向传播：神经网络优化的核心机制
文章解释了神经网络训练的关键在于通过梯度下降法更新权重。梯度下降利用导数（梯度）指示权重调整方向，而反向传播算法则基于链式法则高效计算复杂表达式的梯度。随机梯度下降（SGD）通过小批量数据迭代更新权重，平衡了计算效率和收敛速度。这些优化方法使得神经网络能够从大量数据中自动学习，而无需手动调整每个权重。
实践中的过拟合：训练精度与测试精度的差距
在手写数字识别示例中，模型训练精度达到98.9%，但测试精度仅为97.8%。文章指出这种差距是过拟合造成的，即模型在训练数据上表现过好，但泛化到新数据时性能下降。这提醒读者，在评估模型时不能只看训练精度，更要关注测试精度，并采取相应措施（如增加数据、正则化等）来缓解过拟合，提升模型的实际应用能力。
Q&A
深度学习与机器学习有什么区别？
深度学习是机器学习的一个分支，强调通过多个连续的表示层进行学习，而机器学习通常被称为浅层学习。
神经网络是如何工作的？
神经网络通过随机赋值权重、计算预测值与真实值的损失、并利用优化器微调权重来学习。
什么是张量，它在深度学习中有什么作用？
张量是深度学习的基本数据结构，包含轴、形状和数据类型，主要用于表示和处理数据。
梯度下降法在深度学习中如何应用？
梯度下降法用于更新模型权重，通过计算损失函数的梯度，沿着梯度的反方向调整权重以降低损失值。
如何使用Keras库进行手写数字识别？
使用Keras库可以加载MNIST数据集，构建神经网络模型，编译模型，准备数据，拟合模型并进行预测。
反向传播算法的作用是什么？
反向传播算法用于计算复杂表达式的梯度，通过链式法则将损失值的反馈信号传递回网络，以更新权重。
