1. RFAConv介绍
1.1 摘要:空间注意力已被广泛用于提高卷积神经网络的性能。 然而,它有一定的局限性。 在本文中,我们提出了空间注意力有效性的新视角,即空间注意力机制本质上解决了卷积核参数共享的问题。 然而,空间注意力生成的注意力图中包含的信息对于大尺寸的卷积核来说是不够的。 因此,我们提出了一种新颖的注意力机制,称为感受野注意力(RFA)。 现有的空间注意力,例如卷积块注意力模块(CBAM)和协调注意力(CA)仅关注空间特征,并没有完全解决卷积核参数共享的问题。 相比之下,RFA 不仅关注感受野空间特征,还为大尺寸卷积核提供有效的注意力权重。 RFA 开发的感受野注意力卷积运算(RFAConv)代表了一种替代标准卷积运算的新方法。 它提供的计算成本和参数增量几乎可以忽略不计,同时显着提高了网络性能。 我们在 ImageNet-1k、COCO 和 VOC 数据集上进行了一系列实验,以证明我们方法的优越性。 特别重要的是,我们认为现在是时候将当前空间注意机制的焦点从空间特征转移到感受野空间特征了。 这样,我们就可以进一步提升网络性能,取得更好的效果。