一、前言

卷积神经网络–AlexNet(最牛)-2012
Lenet-5-大规模商用（1989）

二、卷积操作

1.特征具有局部性：卷积核每次仅连接KK区域，KK是卷积核尺寸
2.特征可能出现在任何位置：卷积核参数重复使用（参数共享），在图像上滑动

卷积核（就有点像权重矩阵）
卷积核：具可学习参数的算子，用于对输入图像进行特征提取，输出通常称特征图(feature maps)

2.1 填充（padding）

分辨率不变
弥补边界丢失

2.2 步长

滑动距离

2.3 输出特征图尺寸计算

F_in是输入特征图的长度
k：卷积核的长度
p：填充（单行长度）
s：步长

2.4 多通道卷积

卷积核：高、宽、输入的通道数量、输出个数（4维）


卷积核是3-D张量，但是计算还是2-D卷积（视频处理中，会用到3-D卷积-有时间概念）

三、池化操作

下采样图像，不会改变图像目标：降低计算量，减少特征冗余

很少用池化了，因为降低分辨率，可以用设置步长。

四、Lenet-5及CNN结构进化史

4.1 Lenet-5

卷积池化的堆叠