5.10.10 用于图像识别的深度残差学习

news2024/12/23 15:32:46

1. 介绍

深度卷积神经网络为图像分类带来了一系列突破。深度网络自然地以端到端的多层方式集成低/中/高级特征和分类器，并且特征的“级别”可以通过堆叠层的数量（深度）来丰富。

学习更好的网络是否像堆叠更多层一样容易？

这个问题的一个障碍是臭名昭著的梯度消失/爆炸问题，它从一开始就阻碍了收敛。然而，这个问题已在很大程度上通过归一化初始化 和中间归一化层 得到解决，这些归一化层使具有数十层的网络能够开始收敛于具有反向传播的随机梯度下降（SGD）。

当更深的网络能够开始收敛时，退化问题就暴露出来了：随着网络深度的增加，准确性变得饱和，然后迅速退化。这种退化并不是由过度拟合引起的，并且向适当深度的模型添加更多层会导致更高的训练误差。

“更深的网络能够开始收敛”是指在构建深度神经网络时，随着网络层数的增加，模型在训练过程中能够逐渐达到一个稳定的状态，即模型的参数不再发生大幅度的变化，并且模型的性能（如准确率、损失函数值等）也逐渐趋于稳定或达到最优。

“饱和”指的是随着网络深度的增加，模型的准确度达到一个特定的水平后就不再显著提升了

（训练准确性）的下降表明并非所有系统都同样容易优化。存在一种通过构建更深层次模型的解决方案：添加的层是恒等映射，其他层是从学习的较浅层模型中复制的。更深的模型不应比其更浅的对应模型产生更高的训练误差。

$\mathcal{F}(\mathbf{x})+\mathbf{x}$ 可以通过具有“快捷连接”的前馈神经网络来实现。快捷连接是那些跳过一层或多层的连接。快捷连接只是执行恒等映射，并且它们的输出被添加到堆叠层的输出中。这样的操作既不会增加额外的参数，也不会增加计算复杂性。整个网络仍然可以通过 SGD 通过反向传播进行端到端训练，并且可以使用通用库轻松实现。

1、我们的极深残差网络很容易优化，但是当深度增加时，对应的“普通”网络（简单地堆叠层）表现出更高的训练误差；

2、深度残差网络可以轻松地从大大增加的深度中获得精度增益，产生比以前的网络更好的结果。

在 ImageNet 分类数据集上，我们通过极深的残差网络获得了出色的结果。我们的 152 层残差网络是 ImageNet 上有史以来最深的网络，同时仍然比 VGG 网络具有更低的复杂性。

2. 相关工作

残差表示

在图像识别中，VLAD 是通过残差向量相对于字典进行编码的表示，Fisher Vector 可以表示为 VLAD 的概率版本。它们都是用于图像检索和分类的强大浅层表示。对于矢量量化，编码残差矢量被证明比编码原始矢量更有效。

在VLAD中，一个图像被分割成多个局部区域，每个区域都描述为一个特征向量。然后，这些特征向量与预定义的字典（也称为聚类中心）进行比较，并计算每个特征向量与最近字典项之间的残差。

训练多层感知器（MLP）的早期实践是添加一个从网络输入连接到输出的线性层。之前曾提出，一些中间层直接连接到辅助分类器以解决梯度消失/爆炸问题。还提出了通过快捷连接实现的居中层响应、梯度和传播误差的方法。“初始”层由一个快捷分支和一些更深的分支组成。

3. 深度残差学习

3.1 残差学习

将 $\mathcal{H}(\mathbf{x})$ 视为由几个堆叠层（不一定是整个网络）拟合的底层映射，其中 x 表示第一层的输入。如果假设多个非线性层可以渐近逼近复杂函数，那么就相当于假设它们可以渐近逼近残差函数，即

$\mathcal{H}(\mathbf{x})-\mathbf{x}$ （假设输入和输出具有相同的维度）。因此，我们不是期望堆叠层逼近 $\mathcal{H}(\mathbf{x})$ ，而是明确让这些层逼近残差函数 $\mathcal{F}(\mathbf{x}):=\mathcal{H}(\mathbf{x})-\mathbf{x}$ 。原函数也就变为 $\mathcal{F}(\mathbf{x})+\mathbf{x}$ 。

退化问题表明求解器在通过多个非线性层逼近恒等映射时可能会遇到困难。通过残差学习重构，如果恒等映射是最优的，则求解器可以简单地将多个非线性层的权重驱动至零以接近恒等映射。

这里的“权重驱动”指的是在训练过程中，通过优化算法（如梯度下降或其变种）调整网络的权重值，使得网络的输出接近于恒等映射的输出。

3.2 通过快捷连接进行恒等映射

我们对每隔几个堆叠层采用残差学习。

$\mathbf{y}=\mathcal{F}(\mathbf{x},\{W_i\})+\mathbf{x}$ ，x 和 y 是所考虑层的输入和输出向量。

函数 $\mathcal{F}=W_{2}\sigma(W_{1}\mathbf{x})$ 表示要学习的残差映射。其中 $\sigma$ 表示 ReLU，为了简化符号，省略了偏差。 $\mathcal{F}+\mathbf{x}$ 通过快捷连接和逐元素加法来执行。

我们可以通过快捷连接执行线性投影 Ws 以匹配尺寸： $\mathbf{y}=\mathcal{F}(\mathbf{x},\{W_{i}\})+W_{s}\mathbf{x}$

函数 $\mathcal{F}(\mathbf{x},\{W_{i}\})$ 可以表示多个卷积层。逐元素相加是在两个特征图上逐个通道执行的。

3.3 网络架构

普通网络

卷积层大多具有3*3卷积核，并遵循两个简单的设计规则：

①对于相同的输出特征图大小，每层具有相同数量的卷积核；

②如果特征图大小减半，卷积核的数量加倍，从而保持每层的时间复杂度。

通过步长为 2 的卷积层执行下采样。网络以全局平均池化层和带有 softmax 的 1000 路全连接层结束。

残差网络

插入快捷连接，将网络变成其对应的残差版本。当输入和输出具有相同维度时，可以直接使用恒等快捷方式。当维度增加时，我们考虑两种选择：（A）快捷方式仍然执行恒等映射，并填充额外的零条目以增加维度。该选项不引入额外的参数； (B) 方程 (2) 中的投影快捷方式用于匹配维度（通过 1×1 卷积完成）。对于这两个选项，当快捷方式穿过两种尺寸的特征图时，它们的步幅为 2。