前言

老是忘有些模块的具体作用，记录一下。

一、功能层

1、池化层

池化层夹在连续的卷积层中间，用于 压缩数据和参数的量，在构建卷积神经网络时，往往会用在卷积层之后，通过池化来降低卷积层输出的特征维度，有效减少网络参数的同时还可以防止过拟合现象。
下图为最大池化，平均池化也类似。

2、nn.BatchNorm2d()

作用：卷积层之后总会添加BatchNorm2d进行数据的归一化处理，这使得数据在进行Relu之前不会因为数据过大而导致网络性能的不稳定。

torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

num_features：一般输入参数为batch_size×num_features×height×width，即为其中特征的数量
eps：分母中添加的一个值，目的是为了计算的稳定性，默认为：1e-5
momentum：一个用于运行过程中均值和方差的一个估计参数
affine：当设为true时，会给定可以学习的系数矩阵gamma和beta

3、全连接层

全连接层是神经网络中的一种常见层，也称为密集层（Dense Layer）。它将上一层的所有神经元都连接到当前层的所有神经元上，因此被称为全连接。在全连接层中，每个输入神经元都与输出层的所有神经元相连，并对输出层中的每个神经元产生影响。
全连接层的优点是可以表达出非常复杂的函数，适用于识别复杂的模式和特征。然而，全连接层中的参数数量很多，因此容易出现过拟合的问题。此外，全连接层在输入数据存在位置关系的情况下，无法对空间信息进行有效的编码和处理。倒数第二列的向量就是全连接层。

4、softmax层

softmax层是神经网络中常用的一种激活函数，通常用于多分类问题。在神经网络的输出层中，通过softmax函数将每个输出节点的值映射到0到1之间，并且归一化，使得所有输出节点的值之和为1，表示每个类别的概率分布。
softmax函数的数学表达式为：
$$y_i=\frac{e^{x_i}}{{\sum }_{j=1}^n{e}^{x_j}}$$
其中，$x_i$表示输入节点i的值，$n$表示输出节点的总数，$y_i$表示第i个输出节点的输出值。softmax函数将每个输入节点的值通过指数函数映射到非负数，然后再将所有节点的值相加作为分母，并将每个节点的指数值除以分母，得到每个节点的输出值。
softmax层在深度学习中广泛应用于分类问题，例如图像分类、自然语言处理中的情感分类、命名实体识别等。

二、卷积层

1、普通卷积

浅层：从输入图像中提取不同方面的特征，比如水平，垂直 ，边缘或对角线。
深层：通过浅层特征的组合，提取更加抽象的高层语义特征或全局特征。

2、空洞卷积

空洞卷积（Dilated Convolution）是一种卷积神经网络中的操作，也被称为扩张卷积。它的作用是在不增加参数和计算量的情况下，增加神经网络的感受野（Receptive field），从而提高网络的性能。
在传统的卷积操作中，每个卷积核都会与相邻的像素进行卷积运算，而在空洞卷积中，卷积核会跳过一些像素点而只与部分像素点进行卷积运算，这样就能够扩大感受野。具体来说，空洞卷积通过在卷积核内部插入一些间隔点，使得卷积核在进行卷积时能够跳过这些间隔点，从而实现感受野的扩张。
常见的空洞卷积有两种：一种是一维空洞卷积，一种是二维空洞卷积。在实际应用中，空洞卷积常用于图像分割、语义分割等领域。

3、多尺度卷积

多尺度卷积是一种卷积神经网络（CNN）中的技术，它可以在不同的尺度下对输入数据进行卷积操作，从而提取不同层次的特征。在多尺度卷积中，通常会使用不同大小的卷积核来对同一层的输入数据进行卷积操作，这样就可以捕捉到不同尺度的特征信息。
例如，在图像识别任务中，多尺度卷积可以对输入的图像进行不同尺度的卷积操作，从而可以捕捉到不同尺度的物体特征，如小物体、中等大小的物体和大物体的特征。这样可以使模型更加全面地了解输入图像的特征，从而提高识别准确率。
多尺度卷积在许多应用中都有广泛的应用，如图像处理、语音识别、自然语言处理等。缺点：下图左图计算量太大，改进后的右图插入1×1的卷积降通道，减少了计算量。
SKNet模块可以自适应的决定哪个分支的信息更重要。

4、分组卷积

分组卷积是指在卷积层中，将输入的特征图分成若干个组，每个组内的特征图只与该组内的卷积核进行卷积操作，最终将各组的结果拼接在一起得到输出特征图。这种操作可以减少参数数量和计算量，因为组内的特征图共享同一个卷积核，减少了需要学习的参数数量。同时，分组卷积也可以提高模型的并行计算能力，因为各组的卷积操作可以在不同的计算设备上进行。
下图为普通卷积：

下图为分组卷积：计算之后再拼接起来

缺点：信息流通不通畅

5、深度可分离卷积

深度可分离卷积是一种卷积神经网络中的特殊卷积类型，其核心思想是将卷积操作拆分成深度卷积和空间卷积两个步骤进行处理。具体而言，深度可分离卷积首先使用一个只涉及深度方向跨度的卷积核进行深度卷积，然后再使用一个普通的卷积核进行空间卷积。这样可以大大减少卷积操作的总量，从而提高计算效率，同时也有助于缓解过拟合问题。深度可分离卷积在一些轻量级的神经网络中应用得比较广泛，例如MobileNetV1等。
深度可分离卷积主要事先通过逐层卷积得到每个层的特征层如下
逐层卷积：

然后再通过逐点卷积（1*1的卷积层）进行合并
逐点卷积:

6、形变卷积

形变卷积（deformable convolution）是一种卷积神经网络中的卷积操作，它可以在输入特征图中根据学习到的偏移量进行形变并且对相应位置的像素进行卷积计算。
传统的卷积操作只能在固定的空间位置进行计算，而形变卷积可以根据实际情况对输入特征图进行形变，从而更好地适应目标的形状和姿态。形变卷积的计算过程类似于传统卷积，但是在卷积核的计算过程中，每个位置的权重不再是固定的，而是根据学习到的偏移量来进行计算。这使得形变卷积能够更好地适应目标的形状和姿态，并且在目标检测、语义分割等任务中取得了良好的效果。

这个还没完全搞明白！