遥感影像变化检测新方法:MLDANets

news2024/12/29 10:40:16

来源:投稿 作者:xin

编辑:学姐

论文标题:
Multilevel Deformable Attention-Aggregated Networks for Change Detection in Bitemporal Remote Sensing Imagery

Motivation

本文指出:

(1)当前基于自注意力(Self-attention, SA)的变化检测方法只处理了单一特征层级的长期依赖,而忽略了跨多个特征级别的上下文依赖关系。所以模型不能充分的利用多尺度上下文信息而限制模型性能;

(2)此外提取全局依赖信息通常会有很高的计算复杂度。为了缓解上述问题,论文提出了多级可变形注意聚合网络(MLDANets)

Method:

MLDANets的框架如下图所示,下面从特征提取、特征变换、多层变化感知变形注意力(MCDA Model)、解码器几方面进行介绍。

特征提取:在特征提取阶段,使用共享权重的VGG-16作为backbone提取多时相遥感图像特征,提取出各个层级对应的特征分别为,然后将对应层级的特征在channel维度拼接起来,得到合并后的双时相特征

特征变换:在获取到拼接后的双时相特征后,为了将其输入到MCDA模块对特征进行了变换。首先使用1*1 的conv将多层次的双时相特征的通道变换到同一维度,然后将其摊平得到变换后的特征。操作过程如公式(1)所示:

接着,将得到不同尺度的变换特征进行堆叠,得到包含不同层次信息的双时相超特征(bitemporal deep feature hyperse-quence,BDFH)

MCDA Model:

MCDA模块将\beta作为输入,对特征进行参考系内归一化、位置编码、可变形采样、以及注意力特征聚合操作。下面将介绍具体操作。

坐标系内特征归一化: 为了规范多层特征中像素的位置,论文使用笛卡尔坐标系和参考点建立了参考系。参考系将二维图像空间划分为各个网格,然后使用公式(2)的方法进行归一化,确定图像中第z个像素的位置。

位置编码: 为了将空间信息注入到BDFH中并且确保每个查询特征(Query)都有唯一的一个位置向量,故对BDFH使用正弦函数、余弦函数进行了空间编码,其计算公式如下:

可变形采样: 受到可变形卷积启发,引入可变形采样策略,使得使MCDA模块根据每个查询元素的参考位置,逐步聚焦于一组包含信息特征的特定关键空间采样位置。给定查询元素,通过线性映射F_{\theta{P}}学习采样偏移量\Delta{p_z}。接着通过p_z+\Delta{p_z}便可得到最终的采样位置。将BDFH\rho通过线性变换F_{\theta{V}}得到投影特征值V,接着利用类似于可变形卷积双线性差值的方式计算采样特征值。

注意力权重: 本文在计算注意力权重时使用了一种基于位置的函数,其中对齐分数仅从使用带有位置编码的查询特性计算。这简化了对齐评分函数,因为它只依赖于通过线性投影获得的位置嵌入查询特征。计算过程如公式(3)所示:

特征值聚合: 在得到采样特征值和注意力权重后,采用对应元素相加的方法便可得到单个注意力头的聚合特征,再将所有头的特征拼接起来,通过线性变换,便得到所有注意力头的特征值。

CNN解码器: 在获取到MCDA模块的输出特征后,使用转置卷积构成解码器将特征恢复到原图大小。

Results:

表1、表2、表3表明,论文提出的方法在Levir、LM以及SECOND数据集上达到了SOTA效果。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“500”获取AI必读高分论文合集

(包含目标检测等多个细分方向)

码字不易,欢迎大家点赞评论收藏!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/431222.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Spring AOP通知类型

我们之前的文章介绍了AOP通知描述了抽取的共性功能,根据共性功能抽取的位置不同,最终运行代码时要将其加入到合理的位置。 先来认识一下五种通知的具体类型: 前置通知后置通知环绕通知(重点)返回后通知(了解)抛出异常后通知(了解) &#x1f…

(4)(4.6) 强制性硬件配置

文章目录 前言 1 ArduPilot操作的简单概述 2 框架类和类型配置 3 电机编号和方向 4 无线电控制校准 5 加速度计校准 6 罗盘校准 7 遥控发射器飞行模式配置 8 电子调速器(ESC)校准 9 配置电机范围(可选) 10 失控保护机制 11 飞行模式 前言 作为首次安装的一部分&am…

深度卷积神经网络DCNN简介

1. 背景 卷积神经网络CNN(Convolutional Neural Network,又称ConvNet)保留了空间信息,因此可以更好地用于图像分类。 卷积操作基于仔细甄选的局部感受野,在多个特征平面共享权值;之后全连接层基于传统的多层…

C++之 多态(Polymorphism)

目录 一、基本概念 多态的使用: 案例一——计算机类 多态的优点: 二、纯虚函数与抽象类 特点: ①无法实例化对象 ②子类必须重写父类中的纯虚函数,否则也属于抽象类 案例二——制作饮品 三、虚析构与纯虚析构 因为父类指…

【C++】结构体嵌套结构体

目录 1、缘起 2、结构体嵌套结构体 3、总结 1、缘起 结构体嵌套结构体 是一种数据组织方式,就像 俄罗斯套娃 一样,一个数据结构可以包含另一个数据结构。这种嵌套结构使得程序可以更加灵活地处理数据,从而更好地满足复杂的需求。类比生活中…

Java之~ Aop自定义注解日志

大纲步骤: 一,创建需要记录的日志表,创建基础方法。(省略) 二,在需要加记录日志的方法上加Aop注解1,创建一个注解类,Aop中定义一个注解import java.lang.annotation.*; /*** http 请…

银行数字化转型导师坚鹏:商业银行零售业务数字化风控

商业银行零售业务数字化风控课程背景: 数字化背景下,很多银行存在以下问题: 不清楚商业银行数字化风控发展现状? 不清楚对公业务数字化风控工作如何开展? 不知道零售业务数字化风控工作如何开展? 课程特…

十三、RNN循环神经网络实战

因为我本人主要课题方向是处理图像的,RNN是基本的序列处理模型,主要应用于自然语言处理,故这里就简单的学习一下,了解为主 一、问题引入 已知以前的天气数据信息,进行预测当天(4-9)是否下雨 日期温度气压是否下雨4-…

拦截器 JWT SpringBoot 多环境开发 本地文件上传 阿里云OSS存储 异常处理

Springboot: 是:由pivotal团队提供的全新框架,其设计目的是用来简化spring应用的初始搭建以及开发过程 作用:简化Spring的环境搭建和代码开发 使用原理:就是boot提前写好了一些maven的工程和jar包,程序员在…

Android屏幕适配dp、px两套解决办法

最新最全文章(2018-08-25):Android dp方式的屏幕适配-原理(后期补充完整讲解)_手机dp输出是横屏还是竖屏_android阿杜的博客-CSDN博客 “又是屏幕适配,这类文章网上不是很多了吗?” 我也很遗憾,确实又是老问题。但本文重点对网上…

ChatGPT来势凶猛,公有云格局会不会大变?

【引言】: AI风暴来袭,全球无人幸免。 但公有云与ChatGPT到底啥关系? 1) 公有云与ChatGPT,到底谁会“吃”掉谁? 【科技明说 | 热点关注】在看到公有云厂商纷纷开始大模型发布,开始GPT的融入之…

虹科教您 | 基于Linux系统的虹科RELY-TSN-KIT套件操作指南(2)——操作演示

RELY-TSN-KIT是首款针对TSN的开箱即用的解决方案,它可以无缝实施确定性以太网网络,并从这些技术复杂性中抽象出用户设备和应用。该套件可评估基于IEEE 802.1AS同步的时间常识的重要性,并借助时间感知整形器来确定性地交付实时流量&#xff0c…

EJBCA搭建

EJBCA搭建 前言: 本次EJBCA搭建使用操作系统为centos 7,shell用户为root。 1.下载jdk环境: // 下载jdk yum install -y java-1.8.0-openjdk-devel // 查看java版本 java -version 本人jdk环境: openjdk version "1.8.…

计算机自动化有哪些SCI期刊推荐? - 易智编译EaseEditing

以下是计算机自动化领域的一些知名SCI期刊: IEEE Transactions on Automation Science and Engineering: 该期刊由IEEE(电气和电子工程师协会)出版,涵盖了自动化科学和工程领域的研究,包括自动控制、人工…

算法记录 | Day35 贪心算法

860.柠檬水找零 思路: 只需要维护三种金额的数量,5,10和20。 有如下三种情况: 情况一:账单是5,直接收下。情况二:账单是10,消耗一个5,增加一个10情况三:账…

九、Locust运行与配置

1. 配置 1.1 环境变量 也可以通过环境变量设置选项。它们通常与命令行参数相同,但大写并带有前缀LOCUST_: 在 Linux/macOS 上: $ LOCUST_LOCUSTFILEcustom_locustfile.py locust在 Windows 上: > set LOCUST_LOCUSTFILEcu…

MySQL的安装与卸载(Centos7.9环境下,全篇图文手把手安装教程)

前言 在安装MySQL之前,我们先来看看MySQL如何卸载。如果从未安装过MySQL的任何版本,可以直接跳过这部分。 如果已经安装过MySQL,一定要确保自己的环境中的MySQL相关文件删除干净,否则重新安装时可能会出现一些错误 tips&#xf…

问界M9全剧透:华为的「科技豪华」样板间

作者 | 德新 编辑 | 王博 今天在nova 11的发布会上,曝了一个意外——问界M9提前剧透。实际上这车要今年四季度才上市。「本来没打算这么早发出来,前阵子网上有一个很老的设计图在传(实在太丑)。没办法,干脆先讲讲」…

DriveGPT、车企订单背后,为什么毫末每年都能搞出新东西?

作者 | 祥威 编辑 | 德新 4月11日,毫末智行正式发布自动驾驶生成式大模型 DriveGPT,中文名 雪湖海若,可以提升自动驾驶认知能力,最终提升规控效率。 雪湖海若的核心,是将各种驾驶场景作为Token输入到模型中&…

《Netty》从零开始学netty源码(三十九)之PoolSubPage的内存分配

目录 PoolSubPage.allocategetNextAvail方法toHandle方法removeFromPool方法 PoolSubPage.allocate 上一篇我们介绍了PoolSubPage的简单知识,当我们需要PoolSubPage的内存时可调用allocate方法查找可分配二进制的位置,具体的源码过程如下: …