本文重点
卷积核的参数量是卷积神经网络中一个重要的概念,它决定了网络的复杂度和计算量。在深度学习中,卷积操作是一种常用的操作,用于提取图像、语音等数据中的特征。卷积神经网络的优势点在于稀疏连接和权值共享,这使得卷积核的参数相较于传统的神经网络要少很多。
举例
假设单卷积层有10个过滤器(卷积核),过滤器的维度是3*3*3的,那么,这一层有多少个参数呢?
过滤器是 3×3×3 的,因此每个过滤器有 27 个参数。然后加上一个偏差,用参数b表示,现在参数增加到 28 个。而现在我们有 10 个过滤器,加在一起是 28×10,也就是 280 个参数。
全连接神经网络的参数是由上一层和本层决定的,而卷积神经网络的权重参数是由滤波器的宽、高、通道以及滤波器的数量决定的。
请注意一点,不论输入图片有多大,1000×1000 也好,5000×5000 也好,该卷积层的参数始终都是280 个。用这 10 个过滤器来提取特征,如垂直边缘,水平边缘和其它特征。即使这些图片很大,参数却很少,这就是卷积神经网络的一个特征,叫作"避免过拟合"。
公式化总结
以一个二维卷积核为例,假设卷积核的大小为K×K,深度为D,输入数据的通道数为C,那么卷积核的参数量可以计算为:
<