卷积神经网络简介

• CNN--卷积神经网络，是一种前馈神经网络；
• 不同于传统的只有线性连接的神经网络；
• CNN具有卷积（convolution）操作、池化（pooling）和非线性激活函数映射等；
• 经典CNN网络有Alex-Net，VGG-Nets，Resnet等；
• 卷积神经网络对计算机图像识别的应用非常成功；
• 同以往的网络不同，卷积神经网络可以接受多维向量；

3通道卷积图示

 

 

卷积

• 把一张大图片分解成好多小部分，依次对小部分进行识别；
• 通常将一张图片分解成多个3*3或5*5的小片，分别识别，将结果集合一起输出给下层网络；
• 该方法对图像识别很有效，对不同区域识别，把识别结果综合给出最后的结果；

最大池化

池化的作用

•  卷积操作产生太多的数据；
• 网络的运算量会非常巨大；
• 数据参数冗余易导致过度拟合；
• 池化层对这些数据进行压缩；

卷积神经网络的内部操作

• 黑白图片的厚度为1；
• 彩色图片的厚度为3；
• 图片输入到神经网络；
• 卷积神经网络将图片的长和宽进行压缩；
• 图片的厚度显著增加；
• 最后图片的形状变为一个长宽很小，厚度很高的像素块；
• 将上述结果放入全连接神经网络中处理；
• 最后链接一个分类器（softmax）
• 给出图片的分类结果；

卷积核

• 图片采样器也可称为共享权值；
• 在图片上采集信息；
• 卷积核有自己的长宽；
• 也可以定义自己的步长stride；
• 表示为每跨多少步进行一次信息抽离；
• 步长越大越容易丢失图片信息；
• 对抽取的信息进行像素的加权求和得到feature Map；
• 增加了采集结果的厚度；
• 卷积用来不断地提取特征；
• 每提取一个特征，增加一个feature Map；
• 采集后的图片厚度不断增加；

卷积神经网络的思想

• 高斯滤波、sobel滤波的卷积核都是事先设定好的；
• 从一个随机滤波器开始；
• 根据目标，用某种方法不断调整卷积核；
• 直到卷积核的值能够满足我们的目标要求；
• 这就是卷积神经网络（Convulutional Neural Network，CNN）的思想；
• 可调整的滤波器是CNN的卷积部分；
• 如何调整滤波器是CNN的神经网络的训练部分；

卷积神经网络的操作细节

• 卷积滤波器和神经网络两个思想相结合；
• 卷积滤波器就是一套权值参数；
• 神经网络（除了全连接外）可有其他拓扑结构；
• 左边平面含有nxn个格子；
• 每个格子中是一个【0,255】的整数值；
• 左边的平面就是输入图像，也是神经网络的输入；
• 右边的平面也是nxn个格子；
• 每个格子是一个神经元；
• 每个神经元根据位值连接着左侧平面上的相应位值的3x3范围内的值；
• 每个连接具有一个权值；
• 所有神经元的连接都一样，边界上的需要Padding操作；
• 右边神经元的输出就是神经网络的输出；

卷积神经网络与全连接神经网络的区别

• 不是全连接的；
• 右侧的神经元不是连接上全部输入；
• 只是连接了卷积核尺寸范围内的像素；
• CNN能够把我局部图像特征；
• AlphaGo从棋局局部状态提取信息；
• 就是基于上述局部连接特性；
• 同时卷积核的权值少了很多；
• 右侧平面上的神经元共享9个权值；
• 神经网络只有9个参数需要调整；
• 本质上卷积神经网络就是一个卷积滤波器；
• 卷积核的参数需要经过训练确定；
• 这是一个拓扑结构特别简单的CNN；

卷积神经网络分类器的实现图示

图像增强

• 深度学习对数据集的大小有一定要求；
• 若原始的数据集较小，无法满足网络模型的训练要求；
• 图像增强对原始图像进行处理以扩充数据集；
• 能够在一定程度上提升模型性能；
• 图像增强在原始图像的基础上对数据进行一定的改变；
• 增加了样本的数量；
• 数据的标签值不改变

图像增强的种类

• 自我增强；
• 通过一定手段增强图像中的感兴趣区域；
• 直至从图像中脱颖而出；
• 正常思维下常用方法；
• 削弱别人；
• 增强自我的反方法；
• 通过一定手段将不感兴趣的区域削弱；
• 直至感兴趣的区域脱颖而出；

图像增强常用方法

• 翻转、平移、旋转、缩放
• 分离单个r，g，b三个颜色通道；
• 添加噪声；
• 直方图均衡化；
• Gamma变换；
• 反转图像的灰度；
• 增加图像的对比度；
• 缩放图像的灰度；
• 均值滤波；
• 中值滤波；
• 高斯滤波；

常见的卷积神经网络

AlexNet

• 2012年ImageNet冠军获得者Hinton和其学生Alex Krizhevsky设计；
• 2012年之后，更多的神经网络被提出

AlexNet网络结构

• 一张原始图片被resize到(224,224,3);
• 使用步长为4，大小为11的卷积核，卷积图像，输出的特征层为96层，输出形状为(55,55,96);
• 使用步长为2，大小为3的卷积核，最大池化图像，输出的形状为(27,27,96);
• 使用步长为1,大小为5的卷积核,卷积图像,输出的特征层为256层,形状为(27,27,256);
• 使用步长为2,大小为3的卷积核,最大池化图像,输出的形状为(13,13,256);
• 使用步长为1,大小为3的卷积核,卷积图像,输出层特征为384层,形状为:(13,13,384);
• 使用步长为1,大小为3的卷积核,卷积图像,输出层特征为384层,形状为:(13,13,384);
• 使用步长为1,大小为3的卷积核,卷积图像,输出层特征为256层,形状为:(13,13,256);
• 使用步长为2,大小为3的卷积核,卷积图像,输出层特征为256层,形状为:(6,6,256);
• 最后两个全链接层,最后输出为1000类;