神经网络(二) — 前向传播
内容提要
本文介绍了神经网络模型的基本结构和工作原理，包括神经元、权重参数和激活函数。还讨论了多层神经网络的优化和前向传播过程。
延伸解读
从像素到分类：输入层的设计逻辑
文章以猩猩图片分类为例，将图片像素归一化后得到360186维向量，因此输入层需要360186个神经元来接收数据。这些神经元不做加权求和或阈值比较，仅负责传递输入。这种设计直观展示了神经网络如何将原始数据转化为可处理的向量形式，但也暴露出全连接结构参数庞大的问题，为后续优化埋下伏笔。
激活函数：引入非线性的关键
文章介绍了Sigmoid、Tanh、ReLU和Softmax等常见激活函数，并重点说明Sigmoid将输入映射到[0,1]区间，适合二分类输出概率。激活函数的核心作用是引入非线性，使神经网络能够拟合复杂关系。若仅使用线性激活函数，整个网络将退化为线性组合，无法处理非线性数据。这一特性是神经网络强大表达能力的基石。
隐层：特征提取与非线性映射
多层神经网络通过增加隐层来提升学习能力。隐层位于输入层和输出层之间，负责对输入数据进行特征提取和转换，实现复杂的非线性映射。文章以识别猩猩为例，理想情况下隐层能先识别鼻子、眼睛、毛发等特征，再由输出层组装判断。但隐层并非越多越好，层数增加可能导致过拟合，需要根据经验和调优来设计。
前向传播：信息流动的完整链条
前向传播是神经网络训练的第一步，描述输入数据通过各层计算得到预测结果的过程。文章以两层和多层网络为例，展示了从输入层到隐层再到输出层的完整计算流程：加权求和、加偏置、激活函数、传递输出。最终输出层通常使用Softmax得到概率分布，值越大表示属于某类的概率越高。这一过程是理解神经网络工作原理的基础。
Q&A
神经网络的基本结构包括哪些部分？
神经网络的基本结构包括神经元、权重参数和激活函数。
什么是前向传播？
前向传播是神经网络中信息传递的过程，输入数据通过多个层计算得到预测结果。
激活函数的作用是什么？
激活函数用于决定神经元是否被激活，常见的激活函数有Sigmoid、Tanh、ReLU和Softmax。
多层神经网络相比于单层网络有什么优势？
多层神经网络通过增加隐层来提高学习能力，能够处理复杂的非线性关系。
偏置项在神经网络中有什么作用？
偏置项用于调整神经元对输入的敏感程度，增加灵活性，使得神经网络能够学习更复杂的函数关系。
Sigmoid函数的特点是什么？
Sigmoid函数将输入映射到[0, 1]之间，适用于二分类问题，并且是一个连续可导的函数。
