简介:1.该教程提供大量的首发改进的方式,降低上手难度,多种结构改进,助力寻找创新点!
2.本篇文章对Pointnet++特征提取模块进行改进,加入
FMB,提升性能。
3.专栏持续更新,紧随最新的研究内容。
目录
1.理论介绍
2.修改步骤
2.1 步骤一
2.2 步骤二
2.3 步骤三
1.理论介绍
基于变压器的复原方法具有显著的性能,因为变压器的自关注(self-attention, SA)可以探索非局部信息,从而获得更好的高分辨率图像重建。
然而,关键的点积SA需要大量的计算资源,这限制了它在低功耗器件中的应用。此外,SA机制的低通特性限制了其捕获局部细节的能力,从而导致平滑的重建结果。为了解决这些问题,我们提出了一个自调制特征聚合(SMFA)模块,以协同利用局部和非局部特征相互作用,以获得更准确的重建。具体来说,SMFA模块采用一种有效的自关注近似(EASA)分支来建模非局部信息,并使用局部细节估计(LDE)分支来捕获局部细节。此外,我们进一步引入了基于部分卷积的前馈网络(PCFN)来改进从SMFA派生的代表性特征。大量实验表明,所提出的SMFANet家族在公共基准数据集上实现了重构性能和计算效率