复合缩放EfficientNet原理详解

news2025/4/3 8:34:20

增加深度（层数）：
更深的网络可以学习更复杂特征，但容易导致梯度消失/爆炸问题，且计算量随深度线性增长。
问题：深层网络训练困难，性能提升呈现明显的收益递减。
增加宽度（通道数）：
更宽的网络能捕捉更丰富的特征，但参数量和计算量随通道数平方增长。
问题：过于浅层的宽网络可能浪费计算资源，无法有效捕捉高阶特征。
提高分辨率：
高分辨率输入保留更多细节，但计算量随分辨率平方增长。
问题：分辨率过高时，特征信息冗余且计算成本激增。

传统模型的浪费：
若仅增加网络深度（层数），可能导致梯度消失且计算量激增；若仅加宽通道数，参数量会平方级增长；若仅提高分辨率，冗余计算增多。这些单维度调整会导致 “投入多，回报少” ，即资源浪费。

EfficientNet 的改进：
复合缩放通过同时但适度地增加这三个维度，能够更好地平衡模型的容量和计算效率，避免了某一维度过度增长带来的负面影响。

EfficientNet 提出用复合系数 $\phi$ 同步缩放深度、宽度、分辨率：

$\text{深度} = \alpha^\phi, \quad \text{宽度} = \beta^\phi, \quad \text{分辨率} = \gamma^\phi$

其中 $\alpha, \beta, \gamma$ 是通过网格搜索确定的最佳比例（例如 $\alpha=1.2, \beta=1.1, \gamma=1.15$ ）， $\phi$ 控制总放大倍数。

深度可分离卷积（Depthwise Separable Conv）：
- 传统卷积：一个 $\times 3 \times C_{\text{in}} \times C_{\text{out}}$ 滤波器同时处理空间和通道信息。
- 深度可分离卷积：
  1. 深度卷积：每个通道单独用 $\times 3$ 卷积处理（参数量： $\times 3 \times C_{\text{in}}$ ）。
  2. 点卷积：用 $\times 1$ 卷积调整通道数（参数量： $\times 1 \times C_{\text{in}} \times C_{\text{out}}$ ）。
- 效率提升：参数量和计算量减少约8~9倍，显著提高模型效率。
残差连接：
在输入和输出通道数一致时添加残差连接，有效缓解梯度消失问题。
膨胀机制（Expansion）：
通过 $\times 1$ 卷积先扩展通道数（例如从32到144），再用深度卷积处理，最后压缩回原始通道数。
效果：有效扩大感受野，显著增强特征表达能力。

传统方法：单独放大某一维度（如加倍深度）会导致计算量激增，但性能提升有限。
EfficientNet方法：通过数学公式更合理地分配计算资源，例如：
- 当 $\phi=1$ 时，深度 ×1.2，宽度 ×1.1，分辨率 ×1.15，总计算量 ≈ 原来的2倍。
- 实验表明，这种均衡分配比单维度放大准确率提升约4%，且使用更少的参数量。

具体对比：
- EfficientNet-B4 在 ImageNet 上准确率达到83.0%，参数量仅19M。
- 相比之下，ResNet-50 准确率为76.5%，参数量25M。
  核心优势：EfficientNet 用更少的参数和计算资源达到更高的准确率。