1.轻量化网络简介
轻量化网络是指在保持模型性能的前提下，尽可能减小模型参数量和计算量的神经网络。这种网络通常被用于在移动设备等资源受限的场景中部署，以提高模型的实时性和运行效率。
轻量化网络的设计思路可以包括以下几个方面：
-
去除冗余层和参数：通过剪枝、蒸馏等技术，去除网络中不必要的层和参数，从而减小模型的体积和计算量。
-
采用轻量化模块：如深度可分离卷积、残差块等，这些模块相较于传统的卷积和全连接层，具有更少的参数和计算量，但同样能保持模型的性能。
-
优化模型架构：通过模型架构的优化，如更小的卷积核、更少的池化层等，减少模型中参数的数量和计算量。
一些常见的轻量化网络包括MobileNet、ShuffleNet、Tiny YOLO等。这些网络在保持模型性能的同时，能够大幅减少模型大小和计算量，使得它们能够在移动端等资源受限的场景中得到广泛应用。
论文：https://arxiv.org/abs/1905.02244
