Sekyoro的博客小屋
·
深度知识基础学习(一)
💡
原文中文，约15300字，阅读约需37分钟。
📝
内容提要
本文介绍了计算机视觉方向的几种神经网络模型，包括LeNet、AlexNet、VGGNet、NiN、GoogLeNet、ResNet和DenseNet。这些模型都采用了卷积层和汇聚层来提取空间结构特征，并通过全连接层对特征进行处理。它们在架构和设计理念上有所不同，但都在图像识别任务中取得了显著的成果。此外，文章还介绍了不同的正则化方式，如批量规范化、实例规范化、组规范化和层规范化。这些正则化方法可以提高模型的训练速度和泛化能力。
🎯
关键要点
- 本文介绍了计算机视觉方向的几种神经网络模型，包括LeNet、AlexNet、VGGNet、NiN、GoogLeNet、ResNet和DenseNet。
- 这些模型采用卷积层和汇聚层提取空间结构特征，并通过全连接层处理特征。
- LeNet的基本单元是卷积层、sigmoid激活函数和平均汇聚层，适用于较小的图像分类任务。
- AlexNet在2012年首次证明了学习到的特征可以超越手工设计的特征，使用了8层卷积神经网络。
- VGGNet提供了一个通用的模板，采用多个卷积层和汇聚层来提取特征。
- NiN通过在每个像素位置应用多层感知机，改进了传统的卷积神经网络设计。
- GoogLeNet引入了Inception模块，解决了卷积核大小选择的问题。
- ResNet通过残差块设计，优化了深层网络的训练过程，允许更快的前向传播。
- DenseNet通过连接输出而非简单相加，增强了特征的传递和利用。
- 文章还介绍了不同的正则化方式，包括批量规范化、实例规范化、组规范化和层规范化，以提高模型的训练速度和泛化能力。
➡️
