LeNet整体由两部分组成:由两个卷积层组成的卷积编码器、由三个全连接层组成的全连接层密集快。
每个卷积块的基本单元是一个卷积层、一个sigmoid激活函数和平均池化层。每个卷积层使用5x5的卷积核和一个sigmoid激活函数。
这些层将输入映射到多个二维特征输出同时输出通道数量相比输入通道数量发生变化。
第一层卷积层有6个输出通道,第一个池化层的窗口大小为2x2,步幅为2。
第二个卷积层有16个输出通道,同样为窗口大小为2x2,步幅为2的池化层。
三个全连接层分别对应120、84和10个特征值输出。10对应最后的分类结果0-9。
LeNet总结
LeNet是早期成功的神经网络。
先使用卷积层来学习图片空间信息。
然后使用全连接层来转换到类别空间。