本系列为《动手学深度学习》学习笔记
书籍链接：动手学深度学习
笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看
关于本系列笔记： 书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容，同时也是对之前知识的查漏补缺
7. 现代卷积神经网络
本章将介绍现代的卷积神经网络架构，许多现代卷积神经网络的研究都是建立在这一章的基础上的。
ImageNet竞赛自2010年以来，一直是计算机视觉中监督学习进展的指向标。
这些模型包括：
- AlexNet。 它是第一个在大规模视觉竞赛中击败传统计算机视觉模型的大型神经网络；
- 使用重复块的网络 （VGG） 。它利用许多重复的神经网络块；
- 网络中的网络 （NiN） 。它重复使用由卷积层和1 × 1卷积层（用来代替全连接层）来构建深层网络;
- 含并行连结的网络 （GoogLeNet） 。它使用并行连结的网络，通过不同窗口大小的卷积层和最大汇聚层来并行抽取信息；
- 残差网络 （ResNet） 。它通过残差块构建跨层的数据通道，是计算机视觉中最流行的体系架构；
- 稠密连接网络 （DenseNet） 。它的计算成本很高，但给我们带来了更好的效果。
7.1 深度卷积神经网络（AlexNet）
7.1.1 学习表征
一种预测这个领域发展的方法————观察图像特征的提取方法。
在2012年前，图像特征都是机械地计算出来的。事实上，设计一套新的特征函数、改进结果，并撰写论文是盛极一时的潮流。SIFT (Lowe,2004)、SURF(Bay et al., 2006)、HOG（定向梯度直方图）(Dalal and Triggs, 2005)、bags of visual words88和类似的特征提 取方法占据了主导地位。
另一组研究人员（包括Yann LeCun、Geoff Hinton、Yoshua Bengio、Andrew Ng、Shun ichi Amari和Juergen Schmidhuber）想法则与众不同他们认为————特征本身应该被学习。
此外，他们还认为，在合理地复杂性前提下，特征应该由多个共同学习的神经网络层组成，每个层都有可学习的参数。在机器视觉中，最底层可能检测边缘、颜色和纹理。事实上Alex Krizhevsky、Ilya Sutskever和Geoff Hinton提出了一种新的卷积神经网络变 体AlexNet。在2012年ImageNet挑战赛中取得了轰动一时的成绩。AlexNet以Alex Krizhevsky的名字命名，他 是论文 (Krizhevsky et al., 2012)的第一作者。
有趣的是，在网络的最底层，模型学习到了一些类似于传统滤波器的特征抽取器。
图7.1.1是从AlexNet论文(Krizhevsky et al., 2012)复制的，描述了底层图像特征。
尽管一直有一群执着的研究者不断钻研，试图学习视觉数据的逐级表征，然而很长一段时间里这些尝试都未有突破。深度卷积神经网络的突破出现在2012年。突破可归因于两个关键因素。
- 缺少的成分：数据
包含许多特征的深度模型需要大量的有标签数据，才能显著优于基于凸优化的传统方法（如线性方法和核方法）。
- 缺少的成分：硬件
深度学习对计算资源要求很高，训练可能需要数百个迭代轮数，每次迭代都需要通过代价高昂的许多线性代数层传递数据。
- 那么GPU比CPU强在哪里呢？
中央处理器（Central Processing Unit，CPU）
CPU的每个核心都拥有高时钟频率的运行能力，和高达数MB的三级缓存（L3Cache）。它们非常适合执行各种指令，具有分支预测器、深层流水线和其他使CPU能够运行各种程序的功能。
然而，这种明显的优势也是它的致命弱点：通用核心的制造成本非常高。它们需要大量的芯片面积、复杂的支持结构（内存接口、内核之间的缓存逻辑、高速互连等等），而且它们在任何单个任务上的性能都相对较差。现代笔记本电脑最多有4核，即使是高端服务器也很少超过64核，因为它们的性价比不高。
图形处理器（Graphics Processing Unit，GPU）
相比于CPU，GPU由100 ∼ 1000个小的处理单元组成（NVIDIA、ATI、ARM和其他芯片供应商之间的细节稍有不同），通常被分成更大的组（NVIDIA称之为warps）。虽然每个GPU核心都相对较弱，有时甚至以低于1GHz的时钟频率运行，但庞大的核心数量使GPU比CPU快几个数量级。
对于一个CPU核心，假设它的运行速度比GPU快4倍，但可以使用16个GPU核代替，那么GPU的综合性能就是CPU的16 × 1/4 = 4倍。其次，GPU内核要简单得多，这使得它们更节能。此外，深度学习中的许多操作需要相对较高的内存带宽，而GPU拥有10倍于CPU的带宽。
7.1.2 AlexNet
图7.1.2: 从LeNet（左）到AlexNet（右）
AlexNet和LeNet的设计理念非常相似，但也存在显著差异。
- AlexNet比相对较小的LeNet5要深得多。AlexNet由八层组成：五个卷积层、两个全连接隐藏层和一个 全连接输出层。
- AlexNet使用ReLU而不是sigmoid作为其激活函数。
模型设计
- 在AlexNet的第一层，卷积窗口的形状是11×11。（由于ImageNet中大多数图像的宽和高比MNIST图像的多10倍以上，因此，需要一个更大的卷积窗口来捕获目标。）
- 第二层中的卷积窗口形状被缩减为5×5，然后是3×3。
- 此外，在第一层、第二层和第五层卷积层之后，加入窗口形状为3 × 3、步幅为2的最大汇聚层。
- 而且，AlexNet的卷积通道数目是LeNet的10倍。
- 在最后一个卷积层后有两个全连接层，分别有4096个输出。
激活函数
此外，AlexNet将sigmoid激活函数改为更简单的ReLU激活函数。
- 一方面，ReLU激活函数的计算更简单，它不需要如sigmoid激活函数那般复杂的求幂运算。
- 另一方面，当使用不同的参数初始化方法时，ReLU激活函数使训练模型更加容易。
- 当sigmoid激活函数的输出非常接近于0或1时，这些区域的梯度几乎为0，因此反向传播无法继续更新一些模型参数。
- 相反，ReLU激活函数在正区间的梯度总是1。
- 因此，如果模型参数没有正确初始化，sigmoid函数可能在正区间内得到几乎为0的梯度，从而使模型无法得到有效的训练。
容量控制和预处理
AlexNet通过暂退法（4.6节）控制全连接层的模型复杂度，而LeNet只使用了权重衰减。
为了进一步扩充数据，AlexNet在训练时增加了大量的图像增强数据，如翻转、裁切和变色。这使得模型更健壮，更大的样本量有效地减少了过拟合。
import torch
from torch import nn
from d2l import torch as d2l
net = nn.Sequential(
# 这里使用一个11*11的更大窗口来捕捉对象。
# 同时，步幅为4，以减少输出的高度和宽度。
# 另外，输出通道的数目远大于LeNet
nn.Conv2d(1, 96, kernel_size=11, stride=4, padding=1), nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2),
# 减小卷积窗口，使用填充为2来使得输入与输出的高和宽一致，且增大输出通道数
nn.Conv2d(96, 256, kernel_size=5, padding=2), nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2),
# 使用三个连续的卷积层和较小的卷积窗口。
# 除了最后的卷积层，输出通道的数量进一步增加。
# 在前两个卷积层之后，汇聚层不用于减少输入的高度和宽度
nn.Conv2d(256, 384, kernel_size=3, padding=1), nn.ReLU(),
nn.Conv2d(384, 384, kernel_size=3, padding=1), nn.ReLU(),
nn.Conv2d(384, 256, kernel_size=3, padding=1), nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2),
nn.Flatten(),
# 这里，全连接层的输出数量是LeNet中的好几倍。使用dropout层来减轻过拟合
nn.Linear(6400, 4096), nn.ReLU(),
nn.Dropout(p=0.5),
nn.Linear(4096, 4096), nn.ReLU(),
nn.Dropout(p=0.5),
# 最后是输出层。由于这里使用Fashion-MNIST，所以用类别数为10，而非论文中的1000
nn.Linear(4096, 10))
构造一个高度和宽度都为224的单通道数据，来观察每一层输出的形状。它与 图7.1.2中的AlexNet架构相匹配。
X = torch.randn(1, 1, 224, 224)
for layer in net:
X=layer(X)
print(layer.__class__.__name__,'output shape:\t',X.shape)
================================================================
X = torch.randn(1, 1, 224, 224)
# nn.Conv2d(1, 96, kernel_size=11, stride=4, padding=1), nn.ReLU(), （224-5*2+1*2）/4 = 54
Conv2d output shape: torch.Size([1, 96, 54, 54])
ReLU output shape: torch.Size([1, 96, 54, 54])
# nn.MaxPool2d(kernel_size=3, stride=2),（54-1*2）/2 = 26
MaxPool2d output shape: torch.Size([1, 96, 26, 26])
# nn.Conv2d(96, 256, kernel_size=5, padding=2), nn.ReLU(),（26-2*2+ 2*2） = 26
Conv2d output shape: torch.Size([1, 256, 26, 26])
ReLU output shape: torch.Size([1, 256, 26, 26])
# nn.MaxPool2d(kernel_size=3, stride=2), （26-1*2）/2 = 12
MaxPool2d output shape: torch.Size([1, 256, 12, 12])
# nn.Conv2d(256, 384, kernel_size=3, padding=1), nn.ReLU(),（12-1*2+1*2） = 12
Conv2d output shape: torch.Size([1, 384, 12, 12])
# nn.Conv2d(384, 384, kernel_size=3, padding=1), nn.ReLU(),（12-1*2+1*2） = 12
ReLU output shape: torch.Size([1, 384, 12, 12])
# nn.Conv2d(384, 384, kernel_size=3, padding=1), nn.ReLU(),（12-1*2+1*2） = 12
Conv2d output shape: torch.Size([1, 384, 12, 12])
ReLU output shape: torch.Size([1, 384, 12, 12])
# nn.Conv2d(384, 256, kernel_size=3, padding=1), nn.ReLU(),（12-1*2+1*2） = 12
Conv2d output shape: torch.Size([1, 256, 12, 12])
ReLU output shape: torch.Size([1, 256, 12, 12])
# nn.MaxPool2d(kernel_size=3, stride=2),（12-1*2）/2 = 5
MaxPool2d output shape: torch.Size([1, 256, 5, 5])
# nn.Flatten(),（256*5*5）= 6400
Flatten output shape: torch.Size([1, 6400])
# nn.Linear(6400, 4096), nn.ReLU(),
Linear output shape: torch.Size([1, 4096])
ReLU output shape: torch.Size([1, 4096])
# nn.Dropout(p=0.5),
Dropout output shape: torch.Size([1, 4096])
# nn.Linear(4096, 4096), nn.ReLU(),
Linear output shape: torch.Size([1, 4096])
# nn.Dropout(p=0.5),
ReLU output shape: torch.Size([1, 4096])
# nn.Linear(4096, 10))
Dropout output shape: torch.Size([1, 4096])
Linear output shape: torch.Size([1, 10])
7.1.3 读取数据集
本书里使用Fashion‐MNIST数据集。
因为即使在现代GPU上，训练ImageNet模型，同时使其收敛可能需要数小时或数天的时间。
将AlexNet直接应用于Fashion‐MNIST的一个问题是，Fashion‐MNIST图像的分辨率（28 × 28像素）低于ImageNet图像。
为了解决这个问题，将它们增加到224 × 224（通常来讲这不是一个明智的做法，但在这里这样做是为了有效使用AlexNet架构）。这里需要使d2l.load_data_fashion_mnist函数中的resize参数执行此调整。
batch_size = 128
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=224)
7.1.4 训练AlexNet
现在AlexNet可以开始被训练了。
与 6.6节（《动手学深度学习》学习笔记 第6章 卷积神经网络）中的LeNet相比，这里的主要变化是使用更小的学习速率训练，这是因为网络更深更广、图像分辨率更高，训练卷积神经网络就更昂贵。
lr, num_epochs = 0.01, 10
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
=================================
loss 0.331, train acc 0.878, test acc 0.883
3941.8 examples/sec on cuda:0
小结
- AlexNet的架构与LeNet相似，但使用了更多的卷积层和更多的参数来拟合大规模的ImageNet数据集。
- 今天，AlexNet已经被更有效的架构所超越，但它是从浅层网络到深层网络的关键一步。
- 尽管AlexNet的代码只比LeNet多出几行，但学术界花了很多年才接受深度学习这一概念，并应用其出色的实验结果。这也是由于缺乏有效的计算工具。
- Dropout、ReLU和预处理是提升计算机视觉任务性能的其他关键步骤。
7.2 使用块的网络（VGG）
虽然AlexNet证明深层神经网络卓有成效，但它没有提供一个通用的模板来指导后续的研究人员设计新的网
络。
在下面的几个章节中，将介绍一些常用于设计深层神经网络的启发式概念。
与芯片设计中工程师从放置晶体管到逻辑元件再到逻辑块的过程类似，神经网络架构的设计也逐渐变得更加抽象。研究人员开始从单个神经元的角度思考问题，发展到整个层，现在又转向块，重复层的模式。
使用块的想法首先出现在牛津大学的视觉几何组（visual geometry group）91的VGG网络中。通过使用循环和子程序，可以很容易地在任何现代深度学习框架的代码中实现这些重复的架构。
7.2.1 VGG块
经典卷积神经网络的基本组成部分是下面的这个序列：
- 带填充以保持分辨率的卷积层；
- 非线性激活函数，如ReLU；
- 汇聚层，如最大汇聚层。
而一个VGG块由一系列卷积层组成，后面再加上用于空间下采样的最大汇聚层。在最初的VGG论文中 (Simonyan and Zisserman, 2014)，作者使用了带有3 × 3卷积核、填充为1（保持高度和宽度）的卷积层，和带有2 × 2步幅为2（每个块后的分辨率减半）的最大汇聚层。
在下面的代码中，定义了一个名为vgg_block的函数来实现一个VGG块。（该函数有三个参数，分别对应于卷积层的数量num_convs、输入通道的数量in_channels 和输出通道的数量out_channels.）
import torch
from torch import nn
from d2l import torch as d2l
def vgg_block(num_convs, in_channels, out_channels):
layers = []
for _ in range(num_convs):
layers.append(nn.Conv2d(in_channels, out_channels,kernel_size=3, padding=1))
layers.append(nn.ReLU())
in_channels = out_channels
layers.append(nn.MaxPool2d(kernel_size=2,stride=2))
return nn.Sequential(*layers)
7.2.2 VGG网络
与AlexNet、LeNet一样，VGG网络可以分为两部分：第一部分主要由卷积层和汇聚层组成，第二部分由全连接层组成。
如 图7.2.1中所示。
VGG神经网络连接图7.2.1的几个VGG块（在vgg_block函数中定义）。其中有超参数变量conv_arch（该变量指定了每个VGG块里卷积层个数和输出通道数。）。全连接模块则与AlexNet中的相同。
原始VGG网络有5个卷积块，其中
- 前两个块各有一个卷积层，
- 后三个块各包含两个卷积层。
第一个模块有64个输出通道，每个后续模块将输出通道数量翻倍，直到该数字达到512。由于该网络使用8个卷积层和3个全连接层，因此它通常被称为VGG‐11。
conv_arch = ((1, 64), (1, 128), (2, 256), (2, 512), (2, 512))
下面的代码实现了VGG‐11。可以通过在conv_arch上执行for循环来简单实现。
def vgg(conv_arch):
conv_blks = []
in_channels = 1
# 卷积层部分
for (num_convs, out_channels) in conv_arch:
conv_blks.append(vgg_block(num_convs, in_channels, out_channels))
in_channels = out_channels
return nn.Sequential(*conv_blks,
nn.Flatten(),
# 全连接层部分
nn.Linear(out_channels * 7 * 7, 4096), nn.ReLU(), nn.Dropout(0.5),
nn.Linear(4096, 4096), nn.ReLU(), nn.Dropout(0.5),
nn.Linear(4096, 10))
net = vgg(conv_arch)
接下来，将构建一个高度和宽度为224的单通道数据样本，以观察每个层输出的形状。
X = torch.randn(size=(1, 1, 224, 224))
for blk in net:
X = blk(X)
print(blk.__class__.__name__,'output shape:\t',X.shape)
================================================================
Sequential output shape: torch.Size([1, 64, 112, 112])
Sequential output shape: torch.Size([1, 128, 56, 56])
Sequential output shape: torch.Size([1, 256, 28, 28])
Sequential output shape: torch.Size([1, 512, 14, 14])
Sequential output shape: torch.Size([1, 512, 7, 7])
Flatten output shape: torch.Size([1, 25088])
Linear output shape: torch.Size([1, 4096])
ReLU output shape: torch.Size([1, 4096])
Dropout output shape: torch.Size([1, 4096])
Linear output shape: torch.Size([1, 4096])
ReLU output shape: torch.Size([1, 4096])
Dropout output shape: torch.Size([1, 4096])
Linear output shape: torch.Size([1, 10])
正如从代码中所看到的，在每个块的高度和宽度减半，最终高度和宽度都为7。最后再展平表示，送入全7.2. 使用块的网络（VGG） 257连接层处理。
7.2.3 训练模型
由于VGG‐11比AlexNet计算量更大，因此构建了一个通道数较少的网络，足够用于训练Fashion‐MNIST数据集。
ratio = 4
small_conv_arch = [(pair[0], pair[1] // ratio) for pair in conv_arch]
net = vgg(small_conv_arch)
除了使用略高的学习率外，模型训练过程与 7.1节中的AlexNet类似。
lr, num_epochs, batch_size = 0.05, 10, 128
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=224)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
============================================
loss 0.178, train acc 0.935, test acc 0.920
2463.7 examples/sec on cuda:0
小结
- VGG‐11使用可复用的卷积块构造网络。不同的VGG模型可通过每个块中卷积层数量和输出通道数量的差异来定义。
- 块的使用导致网络定义的非常简洁。使用块可以有效地设计复杂的网络。
- 在VGG论文中，Simonyan和Ziserman尝试了各种架构。特别是他们发现深层且窄的卷积（即3 ×
3）比较浅层且宽的卷积更有效。
7.3 网络中的网络（NiN）
LeNet、AlexNet和VGG都有一个共同的设计模式：
- 通过一系列的卷积层与汇聚层来提取空间结构特征；
- 然后通过全连接层对特征的表征进行处理。
AlexNet和VGG对LeNet的改进主要在于如何扩大和加深这两个模块。
或者，可以想象在这个过程的早期使用全连接层。然而，如果使用了全连接层，可能会完全放弃表征的空间结
构。
网络中的网络（NiN）提供了一个非常简单的解决方案：在每个像素的通道上分别使用多层感知机 (Lin et al.,2013)
7.3.1 NiN块
- 卷积层的输入和输出由四维张量（分别对应样本、通道、高度和宽度）组成；
- 全连接层的输入和输出通常是分别对应于样本和特征的二维张量。
NiN的想法是在每个像素位置（针对每个高度和宽度）应用一个全连接层。如果将权重连接到每个空间位置，可以将其视为1 × 1卷积层（如6.4《动手学深度学习》学习笔记 第6章 卷积神经网络节中所述），或作为在每个像素位置上独立作用的全连接层。
从另一个角度看，即将空间维度中的每个像素视为单个样本，将通道维度视为不同特征（feature）。
图7.3.1说明了VGG和NiN及它们的块之间主要架构差异。NiN块以一个普通卷积层开始，后面是两个1 × 1的卷积层。这两个1 × 1卷积层充当带有ReLU激活函数的逐像素全连接层。第一层的卷积窗口形状通常由用户设置。随后的卷积窗口形状固定为1 × 1。
图7.3.1: 对比 VGG 和 NiN 及它们的块之间主要架构差异。
import torch
from torch import nn
from d2l import torch as d2l
def nin_block(in_channels, out_channels, kernel_size, strides, padding):
return nn.Sequential(
nn.Conv2d(in_channels, out_channels, kernel_size, strides, padding),
nn.ReLU(),
nn.Conv2d(out_channels, out_channels, kernel_size=1), nn.ReLU(),
nn.Conv2d(out_channels, out_channels, kernel_size=1), nn.ReLU())
7.3.2 NiN模型
NiN使用窗口形状为11×11、5×5和3×3的卷积层，输出通道数量与AlexNet中的相同。
每个NiN块后有一个最大汇聚层，汇聚窗口形状为3 × 3，步幅为2。
NiN和AlexNet之间的一个显著区别是NiN完全取消了全连接层。
相反，NiN使用一个NiN块，其输出通道数等于标签类别的数量。最后放一个全局平均汇聚层（global average
pooling layer），生成一个对数几率（logits）。
- NiN优点:它显著减少了模型所需参数的数量。
- 缺点：这种设计有时会增加训练模型的时间。
net = nn.Sequential(
nin_block(1, 96, kernel_size=11, strides=4, padding=0),
nn.MaxPool2d(3, stride=2),
nin_block(96, 256, kernel_size=5, strides=1, padding=2),
nn.MaxPool2d(3, stride=2),
nin_block(256, 384, kernel_size=3, strides=1, padding=1),
nn.MaxPool2d(3, stride=2),
nn.Dropout(0.5),
# 标签类别数是10
nin_block(384, 10, kernel_size=3, strides=1, padding=1),
nn.AdaptiveAvgPool2d((1, 1)),
# 将四维的输出转成二维的输出，其形状为(批量大小,10)
nn.Flatten())
创建一个数据样本来查看每个块的输出形状。
X = torch.rand(size=(1, 1, 224, 224))
for layer in net:
X = layer(X)
print(layer.__class__.__name__,'output shape:\t', X.shape)
=============================================================
Sequential output shape: torch.Size([1, 96, 54, 54])
MaxPool2d output shape: torch.Size([1, 96, 26, 26])
Sequential output shape: torch.Size([1, 256, 26, 26])
MaxPool2d output shape: torch.Size([1, 256, 12, 12])
Sequential output shape: torch.Size([1, 384, 12, 12])
MaxPool2d output shape: torch.Size([1, 384, 5, 5])
Dropout output shape: torch.Size([1, 384, 5, 5])
Sequential output shape: torch.Size([1, 10, 5, 5])
AdaptiveAvgPool2d output shape: torch.Size([1, 10, 1, 1])
Flatten output shape: torch.Size([1, 10])
7.3.3 训练模型
使用Fashion‐MNIST来训练模型。训练NiN与训练AlexNet、VGG时相似。
lr, num_epochs, batch_size = 0.1, 10, 128
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=224)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
=======================================================================
loss 0.563, train acc 0.786, test acc 0.790
3087.6 examples/sec on cuda:0
小结
- NiN使用由一个卷积层和多个1 × 1卷积层组成的块。该块可以在卷积神经网络中使用，以允许更多的每像素非线性。
- NiN去除了容易造成过拟合的全连接层，将它们替换为全局平均汇聚层（即在所有位置上进行求和）。该汇聚层通道数量为所需的输出数量（例如，Fashion‐MNIST的输出为10）。
- 移除全连接层可减少过拟合，同时显著减少NiN的参数。
- NiN的设计影响了许多后续卷积神经网络的设计。
7.4 含并行连结的网络（GoogLeNet）
在2014年的ImageNet图像识别挑战赛中，一个名叫GoogLeNet (Szegedy et al., 2015)的网络架构大放异彩。
GoogLeNet吸收了NiN中串联网络的思想，并在此基础上做了改进。这篇论文的一个重点是解决了什么样大小的卷积核最合适的问题。
本文的一个观点是：有时使用不同大小的卷积核组合是有利的。（本节将介绍一个稍微简化的GoogLeNet版本：我们省略了一些为稳定训练而添加的特殊特性，现在有了更好的训练方法，这些特性不是必要的。）
7.4.1 Inception块
在GoogLeNet中，基本的卷积块被称为Inception块（Inception block）。这很可能得名于电影《盗梦空间》（In‐ception），因为电影中的一句话“我们需要走得更深”（“We need to go deeper”）。
如 图7.4.1所示，Inception块由四条并行路径组成。
- 前三条路径使用窗口大小为1 × 1、3 × 3和5 × 5的卷积层，从不同空间大小中提取信息。
- 中间的两条路径在输入上执行1 × 1卷积，以减少通道数（降低模型的复杂性）。
- 第四条路径使用3 × 3最大汇聚层，然后使用1 × 1卷积层来改变通道数。
这四条路径都使用合适的填充来使输入与输出的高和宽一致，最后我们将每条线路的输出在通道维度上连结，并构成Inception块的输出。
在Inception块中，通常调整的超参数是每层输出通道数。
import torch
from torch import nn
from torch.nn import functional as F
from d2l import torch as d2l
class Inception(nn.Module):
# c1--c4是每条路径的输出通道数
def __init__(self, in_channels, c1, c2, c3, c4, **kwargs):
super(Inception, self).__init__(**kwargs)
# 线路1，单1x1卷积层
self.p1_1 = nn.Conv2d(in_channels, c1, kernel_size=1)
# 线路2，1x1卷积层后接3x3卷积层
self.p2_1 = nn.Conv2d(in_channels, c2[0], kernel_size=1)
self.p2_2 = nn.Conv2d(c2[0], c2[1], kernel_size=3, padding=1)
# 线路3，1x1卷积层后接5x5卷积层
self.p3_1 = nn.Conv2d(in_channels, c3[0], kernel_size=1)
self.p3_2 = nn.Conv2d(c3[0], c3[1], kernel_size=5, padding=2)
# 线路4，3x3最大汇聚层后接1x1卷积层
self.p4_1 = nn.MaxPool2d(kernel_size=3, stride=1, padding=1)
self.p4_2 = nn.Conv2d(in_channels, c4, kernel_size=1)
def forward(self, x):
p1 = F.relu(self.p1_1(x))
p2 = F.relu(self.p2_2(F.relu(self.p2_1(x))))
p3 = F.relu(self.p3_2(F.relu(self.p3_1(x))))
p4 = F.relu(self.p4_2(self.p4_1(x)))
# 在通道维度上连结输出
return torch.cat((p1, p2, p3, p4), dim=1)
那么为什么GoogLeNet这个网络如此有效呢？
- 首先我们考虑一下滤波器（filter）的组合，它们可以用各种滤波器尺寸探索图像，这意味着不同大小的滤波器可以有效地识别不同范围的图像细节。
- 同时，我们可以为不同的滤波器分配不同数量的参数。
7.4.2 GoogLeNet模型
如 图7.4.2所示，GoogLeNet一共使用9个Inception块和全局平均汇聚层的堆叠来生成其估计值。Inception块
之间的最大汇聚层可降低维度。第一个模块类似于AlexNet和LeNet，Inception块的组合从VGG继承，全局平
均汇聚层避免了在最后使用全连接层。
图7.4.2: GoogLeNet架构。
现在，逐一实现GoogLeNet的每个模块
- 第一个模块：64个通道、7 × 7卷积层。
b1 = nn.Sequential( nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3),
nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
- 第二个模块：两个卷积层（这对应于Inception块中的第二条路径。）：
- 第一个卷积层是64个通道、1 × 1卷积层；
- 第二个卷积层使用将通道数量增加三倍的3 × 3卷积层。
b2 = nn.Sequential( nn.Conv2d(64, 64, kernel_size=1),
nn.ReLU(),
nn.Conv2d(64, 192, kernel_size=3, padding=1),
**加粗样式** nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
- 第三个模块串联两个完整的Inception块。
第一个Inception块：
- 输出通道数为64 + 128 + 32 + 32 = 256；
- 四个路径之间的输出通道数量比为64 : 128 : 32 : 32 = 2 : 4 : 1 : 1；
- 第二个和第三个路径首先将输入通道的数量分别减少到96/192 = 1/2和16/192 = 1/12（1 × 1卷积），然后连接第二个卷积层。
第二个Inception块：
- 输出通道数增加到128 + 192 + 96 + 64 = 480；
- 四个路径之间的输出通道数量比为128 : 192 : 96 : 64 = 4 : 6 : 3 : 2；
- 第二条和第三条路径首先将输入通道的数量分别减少到128/256 = 1/2和32/256 = 1/8（1 × 1卷积）。
# c1--c4（64, (96, 128), (16, 32), 32)）是每条路径的输出通道数
b3 = nn.Sequential( Inception(192, 64, (96, 128), (16, 32), 32),
Inception(256, 128, (128, 192), (32, 96), 64),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
注释：# c1–c4（64, (96, 128), (16, 32), 32)）是每条路径的输出通道数
- 第四模块串联了5个Inception块，其输出通道数分别是
192 + 208 + 48 + 64 = 512
160 + 224 +64 + 64 = 512
128 + 256 + 64 + 64 = 512
112 + 288 + 64 + 64 = 528
256 + 320 + 128 + 128 = 832
这些路径的通道数分配和第三模块中的类似，
- 首先是含3×3卷积层的第二条路径输出最多通道，
- 其次是仅含1×1卷积层的第一条路径，
- 之后是含5×5卷积层的第三条路径和含3×3最大汇聚层的第四条路径。
（其中第二、第三条路径都会先按比例减小通道数。）
这些比例在各个Inception块中都略有不同。
b4 = nn.Sequential( Inception(480, 192, (96, 208), (16, 48), 64),
Inception(512, 160, (112, 224), (24, 64), 64),
Inception(512, 128, (128, 256), (24, 64), 64),
Inception(512, 112, (144, 288), (32, 64), 64),
Inception(528, 256, (160, 320), (32, 128), 128),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
- 第五模块包含：
- 输出通道数为256 + 320 + 128 + 128 = 832和384 + 384 + 128 + 128 = 1024的两个Inception块。（其中每条路径通道数的分配思路和第三、第四模块中的一致，只是在具体数值上有所不同）
- 需要注意的是，第五模块的后面紧跟输出层，该模块同NiN一样使用全局平均汇聚层，将每个通道的高和宽变成1。
- 最后将输出变成二维数组，再接上一个输出个数为标签类别数的全连接层。
b5 = nn.Sequential(Inception(832, 256, (160, 320), (32, 128), 128),
Inception(832, 384, (192, 384), (48, 128), 128),
nn.AdaptiveAvgPool2d((1,1)),
nn.Flatten())
net = nn.Sequential(b1, b2, b3, b4, b5, nn.Linear(1024, 10))
GoogLeNet模型的计算复杂，而且不如VGG便于修改通道数。
为了使Fashion‐MNIST上的训练短小精悍，简化计算，将输入的高和宽从224降到96。下面演示各个模块输出的形状变化。
X = torch.rand(size=(1, 1, 96, 96))
for layer in net:
X = layer(X)
print(layer.__class__.__name__,'output shape:\t', X.shape)
========================================================
Sequential output shape: torch.Size([1, 64, 24, 24])
Sequential output shape: torch.Size([1, 192, 12, 12])
Sequential output shape: torch.Size([1, 480, 6, 6])
Sequential output shape: torch.Size([1, 832, 3, 3])
Sequential output shape: torch.Size([1, 1024])
Linear output shape: torch.Size([1, 10])
7.4.3 训练模型
和以前一样，使用Fashion‐MNIST数据集来训练我们的模型。在训练之前，将图片转换为96 × 96分辨率。
lr, num_epochs, batch_size = 0.1, 10, 128
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=96)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
=================================================================
loss 0.262, train acc 0.900, test acc 0.886
3265.5 examples/sec on cuda:0
小结
- Inception块相当于一个有4条路径的子网络。它通过不同窗口形状的卷积层和最大汇聚层来并行抽取信息，并使用1×1卷积层减少每像素级别上的通道维数从而降低模型复杂度。
- GoogLeNet将多个设计精细的Inception块与其他层（卷积层、全连接层）串联起来。其中Inception块的通道数分配之比是在ImageNet数据集上通过大量的实验得来的。
- GoogLeNet和它的后继者们一度是ImageNet上最有效的模型之一：它以较低的计算复杂度提供了类似的测试精度。
7.5 批量规范化
本节将介绍批量规范化（batch normalization）(Ioffe and Szegedy, 2015)，可持续加速深层网络的收敛速度。
7.5.1 训练深层网络
为什么需要批量规范化层呢？
首先，数据预处理的方式通常会对最终结果产生巨大影响。
回想应用多层感知机来预测房价的例子（4.10节《动手学深度学习》学习笔记 第4章多层感知机）。使用真实数据时，我们的第一步是标准化输入特征，使其平均值为0，方差为1。直观地说，这种标准化可以很好地与优化器配合使用，因为它可以将参数的量级进行统一。
第二，对于典型的多层感知机或卷积神经网络。训练时，中间层中的变量（例如，多层感知机中的仿
射变换输出）可能具有更广的变化范围：不论是沿着从输入到输出的层，跨同一层中的单元，或是随着时间
的推移，模型参数的随着训练更新变幻莫测。
批量规范化的发明者非正式地假设，这些变量分布中的这种偏移可能会阻碍网络的收敛。直观地说，如果一个层的可变值是另一层的100倍，这可能需要对学习率进行补偿调整。
第三，更深层的网络很复杂，容易过拟合。
这意味着正则化变得更加重要。批量规范化应用于单个可选层（也可以应用到所有层），其原理如下：在每次训练迭代中，首先规范化输入，即通过减去其均值并除以其标准差，其中两者均基于当前小批量处理。接下来，应用比例系数和比例偏移。正是由于这个基于批量统计的标准化，才有了批量规范化的名称。
- 请注意，如果尝试使用大小为1的小批量应用批量规范化，我们将无法学到任何东西（这是因为在减去均 值之后，每个隐藏单元将为0）。
- 所以，只有使用足够大的小批量，批量规范化这种方法才是有效且稳定的。（批量大小的选择可能比没有批量规范化时更重要）。
从形式上来说，用
x
∈
B
x ∈ B
x∈B表示一个来自小批量
B
B
B的输入，批量规范化
B
N
BN
BN根据以下表达式转换
x
x
x：
B
N
(
x
)
=
γ
⊙
x
−
µ
^
B
σ
^
B
+
β
.
(
7.5.1
)
BN(x) = γ ⊙\frac{x − \hat{µ}B}{\hat{σ} B}+ β. (7.5.1)
BN(x)=γ⊙σ^Bx−µ^B+β.(7.5.1)
其中：
µ
^
B
=
1
∣
B
∣
∑
x
∈
B
x
\hat{µ}B = \frac{1}{|B|}\sum_{x ∈ B}{x}
µ^B=∣B∣1x∈B∑x
σ
^
B
2
=
1
∣
B
∣
∑
x
∈
B
(
x
−
µ
^
B
)
2
+
ϵ
\hat{σ} B^2 = \frac{1}{|B|} \sum_{x ∈ B}{(x-\hat{µ}B)^2+ϵ}
σ^B2=∣B∣1x∈B∑(x−µ^B)2+ϵ
上式中， µ ^ B \hat{µ}B µ^B是小批量 B B B的样本均值， σ ^ B \hat{σ} B σ^B是小批量 B B B的样本标准差。（应用标准化后，生成的小批量的平均值为0和单位方差为1）
由于单位方差是一个主观的选择，因此通常包含 拉伸参数 （ s c a l e ） γ （scale）γ （scale）γ和偏移参数 （ s h i f t ） β （shift）β （shift）β，它们的形状与 x x x相同。（请注意， γ γ γ和 β β β是需要与其他模型参数一起学习的参数）
由于在训练过程中，中间层的变化幅度不能过于剧烈，而批量规范化将每一层主动居中，并将它们重新调整为给定的平均值和大小（通过 µ ^ B \hat{µ}B µ^B和 σ ^ B \hat{σ} B σ^B） 。
- 请注意，在方差估计值中添加一个小的常量ϵ > 0，以确保永远不会除以零。
- 估计值µˆB和σˆ B通过使用平均值和方差的噪声（noise）估计来抵消缩放问题。乍看起来，这种噪声是一个问题，而事实上它是有益的。
事实证明，这是深度学习中一个反复出现的主题。由于尚未在理论上明确的原因，优化中的各种噪声源通常会导致更快的训练和较少的过拟合：这种变化似乎是正则化的一种形式。
在一些初步研究中，(Teye et al.,2018)和 (Luo et al., 2018)分别将批量规范化的性质与贝叶斯先验相关联。这些理论揭示了为什么批量规范化最适应50 ∼ 100范围中的中等批量大小的难题。
- 另外，批量规范化层在”训练模式“（通过小批量统计数据规范化）和“预测模式”（通过数据集统计规范化）中的功能不同。
- 在训练过程中，无法得知使用整个数据集来估计平均值和方差，所以只能根据每个小批次的平均值和方差不断训练模型。
- 而在预测模式下，可以根据整个数据集精确计算批量规范化所需的平均值和方差。
现在，我们了解一下批量规范化在实践中是如何工作的。
7.5.2 批量规范化层
全连接层和卷积层，他们的批量规范化实现略有不同。
全连接层
通常，将批量规范化层置于全连接层中的仿射变换和激活函数之间。
设全连接层的输入为x，权重参数和偏置参数分别为W和b，激活函数为ϕ，批量规范化的运算符为BN。那么，使用批量规范化的全连接层的输出的计算详情如下：
h = ϕ ( B N ( W x + b ) ) . ( 7.5.3 ) h = ϕ(BN(Wx + b)). (7.5.3) h=ϕ(BN(Wx+b)).(7.5.3) 回想一下，均值和方差是在应用变换的“相同”小批量上计算的。
卷积层
同样，对于卷积层，可以在卷积层之后和非线性激活函数之前应用批量规范化。
当卷积有多个输出通道时，需要对这些通道的“每个”输出执行批量规范化，每个通道都有自己的拉伸（scale）和偏移（shift）参数，这两个参数都是标量。
假设小批量包含 m m m个样本，并且对于每个通道，卷积的输出具有高度 p p p和宽度 q q q。那么对于卷积层，在每个输出通道的 m ⋅ p ⋅ q m · p · q m⋅p⋅q个元素上同时执行每个批量规范化。因此，在计算平均值和方差时，会收集所有空间位置的值，然后在给定通道内应用相同的均值和方差，以便在每个空间位置对值进行规范化。
预测过程中的批量规范化
批量规范化在训练模式和预测模式下的行为通常不同。
首先，将训练好的模型用于预测时，不再需要样本均值中的噪声以及在微批次上估计每个小批次产生的样本方差了。
其次，例如，可能需要使用模型对逐个样本进行预测。一种常用的方法是通过移动平均估算整个训练数据集的样本均值和方差，并在预测时使用它们得到确定的输出。
可见，和暂退法一样，批量规范化层在训练模式和预测模式下的计算结果也是不一样的。
7.5.3 从零实现
下面，从头开始实现一个具有张量的批量规范化层。
import torch
from torch import nn
from d2l import torch as d2l
def batch_norm(X, gamma, beta, moving_mean, moving_var, eps, momentum):
# 通过is_grad_enabled来判断当前模式是训练模式还是预测模式
if not torch.is_grad_enabled():
# 如果是在预测模式下，直接使用传入的移动平均所得的均值和方差
X_hat = (X - moving_mean) / torch.sqrt(moving_var + eps)
else:
assert len(X.shape) in (2, 4)
if len(X.shape) == 2:
# 使用全连接层的情况，计算特征维上的均值和方差
mean = X.mean(dim=0)
var = ((X - mean) ** 2).mean(dim=0)
else:
# 使用二维卷积层的情况，计算通道维上（axis=1）的均值和方差。
# 这里我们需要保持X的形状以便后面可以做广播运算
mean = X.mean(dim=(0, 2, 3), keepdim=True)
var = ((X - mean) ** 2).mean(dim=(0, 2, 3), keepdim=True)
# 训练模式下，用当前的均值和方差做标准化
X_hat = (X - mean) / torch.sqrt(var + eps)
# 更新移动平均的均值和方差
moving_mean = momentum * moving_mean + (1.0 - momentum) * mean
moving_var = momentum * moving_var + (1.0 - momentum) * var
Y = gamma * X_hat + beta # 缩放和移位
return Y, moving_mean.data, moving_var.data
现在可以创建一个正确的BatchNorm层。
- 这个层将保持适当的参数：拉伸gamma和偏移beta（这两个参数将在训练过程中更新）。
- 此外，层将保存均值和方差的移动平均值（以便在模型预测期间随后使用）。
- 然后，将此功能集成到一个自定义层中，其代码主要处理数据移动到训练设备（如GPU）、分配和初始化任何必需的变量、跟踪移动平均线（此处为均值和方差）等问题。
class BatchNorm(nn.Module):
# num_features：完全连接层的输出数量或卷积层的输出通道数。
# num_dims：2表示完全连接层，4表示卷积层
def __init__(self, num_features, num_dims):
super().__init__()
if num_dims == 2:
shape = (1, num_features)
else:
shape = (1, num_features, 1, 1)
# 参与求梯度和迭代的拉伸和偏移参数，分别初始化成1和0
self.gamma = nn.Parameter(torch.ones(shape))
self.beta = nn.Parameter(torch.zeros(shape))
# 非模型参数的变量初始化为0和1
self.moving_mean = torch.zeros(shape)
self.moving_var = torch.ones(shape)
def forward(self, X):
# 如果X不在内存上，将moving_mean和moving_var
# 复制到X所在显存上
if self.moving_mean.device != X.device:
self.moving_mean = self.moving_mean.to(X.device)
self.moving_var = self.moving_var.to(X.device)
# 保存更新过的moving_mean和moving_var
Y, self.moving_mean, self.moving_var = batch_norm(
X,
self.gamma,
self.beta,
self.moving_mean,
self.moving_var,
eps=1e-5,
momentum=0.9)
return Y
7.5.4 使用批量规范化层的 LeNet
为了更好理解如何应用BatchNorm，下面将其应用于LeNet模型（6.6节）。
net = nn.Sequential(
nn.Conv2d(1, 6, kernel_size=5), BatchNorm(6, num_dims=4), nn.Sigmoid(),
nn.AvgPool2d(kernel_size=2, stride=2),
nn.Conv2d(6, 16, kernel_size=5), BatchNorm(16, num_dims=4), nn.Sigmoid(),
nn.AvgPool2d(kernel_size=2, stride=2), nn.Flatten(),
nn.Linear(16*4*4, 120), BatchNorm(120, num_dims=2), nn.Sigmoid(),
nn.Linear(120, 84), BatchNorm(84, num_dims=2), nn.Sigmoid(),
nn.Linear(84, 10))
和以前一样，将在Fashion‐MNIST数据集上训练网络。
这个代码与第一次训练LeNet（6.6节）时几乎完全相同，主要区别在于学习率大得多。
lr, num_epochs, batch_size = 1.0, 10, 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
===========================================
loss 0.273, train acc 0.899, test acc 0.807
32293.9 examples/sec on cuda:0
看看从第一个批量规范化层中学到的拉伸参数gamma和偏移参数beta。
net[1].gamma.reshape((-1,)), net[1].beta.reshape((-1,))
(tensor([0.4863, 2.8573, 2.3190, 4.3188, 3.8588, 1.7942], device='cuda:0',grad_fn=<ReshapeAliasBackward0>),
tensor([-0.0124, 1.4839, -1.7753, 2.3564, -3.8801, -2.1589], device='cuda:0',grad_fn=<ReshapeAliasBackward0>))
7.5.5 简明实现
除了使用刚刚定义的BatchNorm，也可以直接使用深度学习框架中定义的BatchNorm。该代码看起来几乎与我们上面的代码相同。
net = nn.Sequential(
nn.Conv2d(1, 6, kernel_size=5), nn.BatchNorm2d(6), nn.Sigmoid(),
nn.AvgPool2d(kernel_size=2, stride=2),
nn.Conv2d(6, 16, kernel_size=5), nn.BatchNorm2d(16), nn.Sigmoid(),
nn.AvgPool2d(kernel_size=2, stride=2), nn.Flatten(),
nn.Linear(256, 120), nn.BatchNorm1d(120), nn.Sigmoid(),
nn.Linear(120, 84), nn.BatchNorm1d(84), nn.Sigmoid(),
nn.Linear(84, 10))
下面，使用相同超参数来训练模型。
请注意，通常高级API变体运行速度快得多，因为它的代码已编译为C++或CUDA，而我们的自定义代码由Python实现。
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
=============================================
loss 0.267, train acc 0.902, test acc 0.708
50597.3 examples/sec on cuda:0
7.5.6 争议
下面是关于批量规范化的一些争议，如果感兴趣可以看看英文原文。大概意思就是，批量规范化并没有完美的数学论证，也有一些论文表现出与原始论文中声称的行为是相反的结论。但是“批量规范化已经被证明是一种不可或缺的方法。它适用于几乎所有图像分类器，并在学术界获得了数万引用”，不论怎么样，它确实在绝大多数情况下起到了作用。
批量规范化使优化更加平滑。然而，必须小心区分直觉和对我们观察到的现象的真实解释。我们甚至不知道简单的神经网络（多层感知机和传统的卷积神经网络）为什么如此有效。即使在暂退法和权重衰减的情况下，它们仍然非常灵活，因此无法通过常规的学习理论泛化保证来解释它们是否能够泛化到看不见的数据。
在提出批量规范化的论文中，作者除了介绍了其应用，还解释了其原理：通过减少内部协变量偏移（internal covariate shift）。据推测，作者所说的内部协变量转移类似于上述的投机直觉，即变量值的分布在训练过程中会发生变化。 然而，这种解释有两个问题：
- 这种偏移与严格定义的协变量偏移（covariate shift）非常不同，所以这个名字用词不当；
- 这种解释只提供了一种不明确的直觉，但留下了一个有待后续挖掘的问题：为什么这项技术如此有效？
本书旨在传达实践者用来发展深层神经网络的直觉。然而，重要的是将这些指导性直觉与既定的科学事实区分开来。最终，当你掌握了这些方法，并开始撰写自己的研究论文时，你会希望清楚地区分技术和直觉。
随着批量规范化的普及，内部协变量偏移的解释反复出现在技术文献的辩论，特别是关于“如何展示机器学习研究”的更广泛的讨论中。Ali Rahimi在接受2017年NeurIPS大会的“接受时间考验奖”（Test of Time Award）时发表了一篇令人难忘的演讲。他将“内部协变量转移”作为焦点，将现代深度学习的实践比作炼金术。他对该示例进行了详细回顾(Lipton and Steinhardt, 2018)，概述了机器学习中令人不安的趋势。
此外，一些作者对批量规范化的成功提出了另一种解释：在某些方面，批量规范化的表现出与原始论文 (Santurkar et al., 2018)中声称的行为是相反的。
然而，与机器学习文献中成千上万类似模糊的说法相比，内部协变量偏移没有更值得批评。很可能，它作为这些辩论的焦点而产生共鸣，要归功于目标受众对它的广泛认可。批量规范化已经被证明是一种不可或缺的方法。它适用于几乎所有图像分类器，并在学术界获得了数万引用。
小结
- 在模型训练过程中，批量规范化利用小批量的均值和标准差，不断调整神经网络的中间输出，使整个神经网络各层的中间输出值更加稳定。
- 批量规范化在全连接层和卷积层的使用略有不同。
- 批量规范化层和暂退层一样，在训练模式和预测模式下计算不同。
- 批量规范化有许多有益的副作用，主要是正则化。另一方面，”减少内部协变量偏移“的原始动机似乎不是一个有效的解释。
7.6 残差网络（ResNet）
设计越来越深的网络，深刻理解**“新添加的层如何提升神经网络的性能”**变得至关重要。
7.6.1 函数类
首先，假设有一类特定的神经网络架构 F F F（它包括学习速率和其他超参数设置）（对于所有 f ∈ F f ∈ F f∈F，存在一些参数集（例如权重和偏置），这些参数可以通过在合适的数据集上进行训练而获得）
假设
f
∗
f^∗
f∗是我们真正想要找到的函数，如果是
f
∗
∈
F
f^∗ ∈ F
f∗∈F，那可以轻而易举的训练得到它，但通常不会那么幸运。相反，我们将尝试找到一个函数
f
∗
F
f^∗F
f∗F，这是在F中的最佳选择。例如，给定一个具有
X
X
X特性和
y
y
y标签的数据集，可以尝试通过解决以下优化问题来找到它：
f
F
∗
:
=
a
r
g
m
i
n
f
L
(
X
,
y
,
f
)
(
f
∈
F
)
.
f^∗_F := argmin_fL(X, y, f) ( f ∈ F).
fF∗:=argminfL(X,y,f)(f∈F).
那么，怎样得到更近似真正
f
∗
f^∗
f∗的函数呢？
唯一合理的可能性是，需要设计一个更强大的架构
F
′
F′
F′。换句话说，我们预计
f
∗
F
′
f^∗F′
f∗F′比
f
∗
F
f^∗F
f∗F“更近似”。但是，如果KaTeX parse error: Expected 'EOF', got '̸' at position 3: F ̸̲⊆ F′，则无法保证新的体系“更近似”。
事实上，
f
∗
F
′
f^∗F′
f∗F′可能更糟：如 图7.6.1所示，
- 对于非嵌套函数（non‐nested function）（图7.6.1的左边）类，较复杂的函数类并不总是向“真”函数 f ∗ f^∗ f∗靠拢（复杂度由 F 1 F_1 F1向 F 6 F_6 F6递增）。虽然 F 3 F_3 F3比 F 1 F_1 F1更接近 f ∗ f^∗ f∗，但F6却离的更远了。
- 相反对于 嵌套函数（nested function）（图7.6.1右侧）类 F 1 ⊆ . . . ⊆ F 6 F1 ⊆ . . . ⊆ F6 F1⊆...⊆F6，我们可以避免上述问题。
图7.6.1: 对于非嵌套函数类，较复杂（由较大区域表示）的函数类不能保证更接近“真”函数（
f
∗
f^∗
f∗ ）。这种现象在嵌套函数类中不会发生。
因此，只有当较复杂的函数类包含较小的函数类时，才能确保提高它们的性能。
对于深度神经网络，如果能将新添加的层训练成恒等映射（identity function） f ( x ) = x f(x) = x f(x)=x，新模型和原模型将同样有效。 同时，由于新模型可能得出更优的解来拟合训练数据集，因此添加层似乎更容易降低训练误差。
针对这一问题，何恺明等人提出了残差网络（ResNet）(He et al., 2016)。它在2015年的ImageNet图像识别挑战赛夺魁，并深刻影响了后来的深度神经网络的设计。残差网络的核心思想是：每个附加层都应该更容易地包含原始函数作为其元素之一 。于是，残差块（residual blocks）便诞生了，这个设计对如何建立深层神经网络产生了深远的影响。凭借它，ResNet赢得了2015年ImageNet大规模视觉识别挑战赛。
7.6.2 残差块
如图7.6.2所示，假设原始输入为 x x x，而希望学出的理想映射为 f ( x ) f(x) f(x)（作为图7.6.2上方激活函数的输入）。
- 图7.6.2左图虚线框中的部分需要直接拟合出该映射 f ( x ) f(x) f(x)
- 右图虚线框中的部分则需要拟合出残差映射 f ( x ) − x f(x) − x f(x)−x。（残差映射在现实中往往更容易优化）
以本节开头提到的恒等映射作为我们希望学出的理想映射 f ( x ) f(x) f(x)，只需将 图7.6.2中右图虚线框内上方的加权运算（如仿射）的权重和偏置参数设成0，那么 f ( x ) f(x) f(x)即为恒等映射。
实际中，当理想映射
f
(
x
)
f(x)
f(x)极接近于恒等映射时，残差映射也易于捕捉恒等映射的细微波动。图7.6.2右图是ResNet的基础架构–残差块（residual block）。在残差块中，输入可通过跨层数据线路更快地向前传播。
图7.6.2: 一个正常块（左图）和一个残差块（右图）。
ResNet沿用了VGG完整的3 × 3卷积层设计。 残差块里首先有2个有相同输出通道数的3 × 3卷积层。
每个卷积层后接一个批量规范化层和ReLU激活函数。 然后通过跨层数据通路，跳过这2个卷积运算，将输入直接加在最后的ReLU激活函数前。
这样的设计要求2个卷积层的输出与输入形状一样，从而使它们可以相加。
如果想改变通道数，就需要引入一个额外的1 × 1卷积层来将输入变换成需要的形状后再做相加运算。
残差块的实现如下：
import torch
from torch import nn
from torch.nn import functional as F
from d2l import torch as d2l
class Residual(nn.Module): #@save
def __init__(self, input_channels, num_channels,use_1x1conv=False, strides=1):
super().__init__()
self.conv1 = nn.Conv2d(input_channels, num_channels,kernel_size=3, padding=1, stride=strides)
self.conv2 = nn.Conv2d(num_channels, num_channels,kernel_size=3, padding=1)
if use_1x1conv:
self.conv3 = nn.Conv2d(input_channels, num_channels,kernel_size=1, stride=strides)
else:
self.conv3 = None
self.bn1 = nn.BatchNorm2d(num_channels)
self.bn2 = nn.BatchNorm2d(num_channels)
def forward(self, X):
Y = F.relu(self.bn1(self.conv1(X)))
Y = self.bn2(self.conv2(Y))
if self.conv3:
X = self.conv3(X)
Y += X
return F.relu(Y)
如图7.6.3所示，此代码生成两种类型的网络：
- 一种是当
use_1x1conv=False时，应用ReLU非线性函数之前，将输入添加到输出。 - 另一种是当
use_1x1conv=True时，添加通过1 × 1卷积调整通道和分辨率。
7.6.3 ResNet模型
ResNet的前两层跟之前介绍的GoogLeNet中的一样：在输出通道数为64、步幅为2的7 × 7卷积层后，接步幅为2的3 × 3的最大汇聚层。不同之处在于ResNet每个卷积层后增加了批量规范化层。
b1 = nn.Sequential( nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3),
nn.BatchNorm2d(64), nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
GoogLeNet在后面接了4个由Inception块组成的模块。
ResNet则使用4个由残差块组成的模块，每个模块使用若干个同样输出通道数的残差块。
第一个模块的通道数同输入通道数一致。由于之前已经使用了步幅为2的最大汇聚层，所以无须减小高和宽。
之后的每个模块在第一个残差块里将上一个模块的通道数翻倍，并将高和宽减半。
下面来实现这个模块。（注意，对第一个模块做了特别处理）
def resnet_block(input_channels, num_channels, num_residuals,first_block=False):
blk = []
for i in range(num_residuals):
if i == 0 and not first_block:
blk.append(Residual(input_channels, num_channels,use_1x1conv=True, strides=2))
else:
blk.append(Residual(num_channels, num_channels))
return blk
接着在ResNet加入所有残差块，这里每个模块使用2个残差块。
b2 = nn.Sequential(*resnet_block(64, 64, 2, first_block=True))
b3 = nn.Sequential(*resnet_block(64, 128, 2))
b4 = nn.Sequential(*resnet_block(128, 256, 2))
b5 = nn.Sequential(*resnet_block(256, 512, 2))
最后，与GoogLeNet一样，在ResNet中加入全局平均汇聚层，以及全连接层输出。
net = nn.Sequential(b1, b2, b3, b4, b5,nn.AdaptiveAvgPool2d((1,1)),nn.Flatten(), nn.Linear(512, 10))
每个模块有4个卷积层（不包括恒等映射的1 × 1卷积层）。加上第一个7 × 7卷积层和最后一个全连接层，共有18层。
因此，这种模型通常被称为ResNet‐18。通过配置不同的通道数和模块里的残差块数可以得到不同的ResNet模型，例如更深的含152层的ResNet‐152。虽然ResNet的主体架构跟GoogLeNet类似，但ResNet架构更简单，修改也更方便。这些因素都导致了ResNet迅速被广泛使用。图7.6.4描述了完整的ResNet‐18。
在训练ResNet之前，让我们观察一下ResNet中不同模块的输入形状是如何变化的。在之前所有架构中，分辨率降低，通道数量增加，直到全局平均汇聚层聚集所有特征。
X = torch.rand(size=(1, 1, 224, 224))
for layer in net:
X = layer(X)
print(layer.__class__.__name__,'output shape:\t', X.shape)
======================================================
Sequential output shape: torch.Size([1, 64, 56, 56])
Sequential output shape: torch.Size([1, 64, 56, 56])
Sequential output shape: torch.Size([1, 128, 28, 28])
Sequential output shape: torch.Size([1, 256, 14, 14])
Sequential output shape: torch.Size([1, 512, 7, 7])
AdaptiveAvgPool2d output shape: torch.Size([1, 512, 1, 1])
Flatten output shape: torch.Size([1, 512])
Linear output shape: torch.Size([1, 10])
7.6.4 训练模型
同之前一样，在Fashion‐MNIST数据集上训练ResNet。
lr, num_epochs, batch_size = 0.05, 10, 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=96)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
=================================================
loss 0.012, train acc 0.997, test acc 0.893
5032.7 examples/sec on cuda:0
小结
- 学习嵌套函数（nested function）是训练神经网络的理想情况。在深层神经网络中，学习另一层作为恒等映射（identity
function）较容易（尽管这是一个极端情况）。 - 残差映射可以更容易地学习同一函数，例如将权重层中的参数近似为零。
- 利用残差块（residual blocks）可以训练出一个有效的深层神经网络：输入可以通过层间的残余连接更快地向前传播。
- 残差网络（ResNet）对随后的深层神经网络设计产生了深远影响。
7.7 稠密连接网络（DenseNet）
稠密连接网络（DenseNet）(Huang et al., 2017)在某种程度上是ResNet的逻辑扩展。
先从数学上了解一下。7.7.1 从ResNet到DenseNet。回想泰勒展开式（Taylor expansion），它把这个函数分解成越来越高阶的项。在x接近0时：
f
(
x
)
=
f
(
0
)
+
f
′
(
0
)
x
+
f
′′
(
0
)
2
!
x
2
+
+
f
′′′
(
0
)
3
!
x
3
+
.
.
.
.
(
7.7.1
)
f(x) = f(0) + f^′(0)x +\frac{f^{′′}(0)}{2!}x^2 + \frac+{f^{′′′}(0)}{3!} x^3 + . . . .(7.7.1)
f(x)=f(0)+f′(0)x+2!f′′(0)x2+f′′′(0)+3!x3+....(7.7.1)
同样，ResNet将函数展开为
f
(
x
)
=
x
+
g
(
x
)
.
(
7.7.2
)
f(x) = x + g(x). (7.7.2)
f(x)=x+g(x).(7.7.2)
也就是说，ResNet将
f
f
f分解为两部分：一个简单的线性项和一个复杂的非线性项。
那么再向前拓展一步，如果想将
f
f
f拓展成超过两部分的信息呢？一种方案便是DenseNet。
图7.7.1: ResNet（左）与 DenseNet（右）在跨层连接上的主要区别：使用相加和使用连结。
如 图7.7.1所示，ResNet和DenseNet的关键区别在于，DenseNet输出是连接（用图中的[, ]表示）而不是如ResNet的简单相加。
因此，在应用越来越复杂的函数序列后，执行从x到其展开式的映射：
x → [x, f1(x), f2([x, f1(x)]), f3([x, f1(x), f2([x, f1(x)])]), . . .] .
最后，将这些展开式结合到多层感知机中，再次减少特征的数量。实现起来非常简单：不需要添加术语，而是将它们连接起来。DenseNet这个名字由变量之间的“稠密连接”而得来，最后一层与之前的所有层紧密相连。 稠密连接如 图7.7.2所示。
图7.7.2: 稠密连接。
稠密网络主要由2部分构成：
- 稠密块（dense block）：定义如何连接输入和输出
- 过渡层（transition layer）：控制通道数量，使其不会太复杂
7.7.2 稠密块体
DenseNet使用了ResNet改良版的“批量规范化、激活和卷积”架构（参见 7.6节中的练习）。
实现一下这个架构：
import torch
from torch import nn
from d2l import torch as d2l
def conv_block(input_channels, num_channels):
return nn.Sequential(
nn.BatchNorm2d(input_channels), nn.ReLU(),
nn.Conv2d(input_channels, num_channels, kernel_size=3, padding=1))
一个稠密块由多个卷积块组成，每个卷积块使用相同数量的输出通道。然而，在前向传播中，我们将每个卷
积块的输入和输出在通道维上连结。
class DenseBlock(nn.Module):
def __init__(self, num_convs, input_channels, num_channels):
super(DenseBlock, self).__init__()
layer = []
for i in range(num_convs):
layer.append(conv_block(num_channels * i + input_channels, num_channels))
self.net = nn.Sequential(*layer)
def forward(self, X):
for blk in self.net:
Y = blk(X)
# 连接通道维度上每个块的输入和输出
X = torch.cat((X, Y), dim=1)
return X
在下面的例子中，定义一个有 2个输出 通道数为10 的DenseBlock（使用通道数为3的输入时，会得到通道数为3 + 2 × 10 = 23的输出）。
卷积块的通道数控制了输出通道数相对于输入通道数的增长，因此也被称为增长率（growth rate）。
blk = DenseBlock(2, 3, 10)
X = torch.randn(4, 3, 8, 8)
Y = blk(X)
Y.shape
===================================
torch.Size([4, 23, 8, 8])
7.7.3 过渡层
由于每个稠密块都会带来通道数的增加，使用过多则会过于复杂化模型。而过渡层可以用来控制模型复杂度。它通过1 × 1卷积层来减小通道数，并使用步幅为2的平均汇聚层减半高和宽，从而进一步降低模型复杂度。
def transition_block(input_channels, num_channels):
return nn.Sequential(
nn.BatchNorm2d(input_channels), nn.ReLU(),
nn.Conv2d(input_channels, num_channels, kernel_size=1),
nn.AvgPool2d(kernel_size=2, stride=2))
对上一个例子中稠密块的输出使用通道数为10的过渡层。此时输出的通道数减为10，高和宽均减半。
blk = transition_block(23, 10)
blk(Y).shape
======================================
torch.Size([4, 10, 4, 4])
7.7.4 DenseNet模型
下面来构造DenseNet模型。DenseNet首先使用同ResNet一样的单卷积层和最大汇聚层。
b1 = nn.Sequential(
nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3),
nn.BatchNorm2d(64), nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
接下来，类似于ResNet使用的4个残差块，DenseNet使用的是4个稠密块。与ResNet类似，可以设置每个稠密块使用多少个卷积层。这里设成4，从而与 7.6节的ResNet‐18保持一致。稠密块里的卷积层通道数（即增长率）设为32，所以每个稠密块将增加128个通道。
在每个模块之间，ResNet通过步幅为2的残差块减小高和宽，DenseNet则使用过渡层来减半高和宽，并减半通道数。
# num_channels为当前的通道数
num_channels, growth_rate = 64, 32
num_convs_in_dense_blocks = [4, 4, 4, 4]
blks = []
for i, num_convs in enumerate(num_convs_in_dense_blocks):
blks.append(DenseBlock(num_convs, num_channels, growth_rate))
# 上一个稠密块的输出通道数
num_channels += num_convs * growth_rate
# 在稠密块之间添加一个转换层，使通道数量减半
if i != len(num_convs_in_dense_blocks) - 1:
blks.append(transition_block(num_channels, num_channels // 2))
num_channels = num_channels // 2
与ResNet类似，最后接上全局汇聚层和全连接层来输出结果。
net = nn.Sequential(
b1, *blks,
nn.BatchNorm2d(num_channels), nn.ReLU(),
nn.AdaptiveAvgPool2d((1, 1)),
nn.Flatten(),
nn.Linear(num_channels, 10))
7.7.5 训练模型
由于这里使用了比较深的网络，本节里我们将输入高和宽从224降到96来简化计算。
lr, num_epochs, batch_size = 0.1, 10, 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size, resize=96)
d2l.train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())
==============================================
loss 0.140, train acc 0.948, test acc 0.885
5626.3 examples/sec on cuda:0
小结
- 在跨层连接上，不同于ResNet中将输入与输出相加，稠密连接网络（DenseNet）在通道维上连结输入与输出。
- DenseNet的主要构建模块是稠密块和过渡层。
- 在构建DenseNet时，我们需要通过添加过渡层来控制网络的维数，从而再次减少通道的数量。
