CSwin-PNet: CNN-Swin-Vit 组合金字塔网络用于超声图像中乳腺病变分割

news2024/12/24 11:06:35

ATTransUNet

  • 期刊分析
    • 摘要
    • 贡献
    • 方法
      • 整体框架
      • 1. Residual Swin Transformer block
      • 2. Interactive channel attention module
      • 3. Supplementary feature fusion module
      • 4. Boundary detection module
    • 实验
      • 1. 消融实验
      • 2. 对比实验
      • 3. 失败案例讨论
  • 可借鉴参考

期刊分析

期刊名: Expert Systems With Applications
期刊信息: IF: 8.5; JCR: Q1; 中科院一区
投稿周期:
本篇: Received 22 June 2022; Received in revised form 30 July 2022; Accepted 9 October 2022; 约四个月
网站统计:录用比例:16.5%; 审稿周期:约13.5月
其余信息: LetPub
该论文没有代码,Code coming soon!!🐕纯纯学习

摘要

目前,基于乳腺超声(BUS)图像的乳腺肿瘤自动分割仍然是一项具有挑战性的任务。**大多数病变分割方法是基于卷积神经网络(CNN)实现的,其在建立长程依赖关系和获取全局上下文信息方面存在局限性。**最近,基于Transformer的模型由于其强大的自注意力机制而被广泛应用于计算机视觉任务中来构建远程上下文信息,并且其效果比传统的CNN更好。在本文中,CNN 和 Swin Transformer 连接作为特征提取主干,构建用于特征编码和解码的金字塔结构网络。首先,我们设计了一个交互式通道注意(ICA)模块,使用通道注意来强调重要的特征区域。其次,我们开发了基于门控机制的补充特征融合(SFF)模块。 SFF模块可以补充特征融合时的特征,提高乳腺病灶分割的性能。最后,我们采用边界检测(BD)模块额外关注乳腺病变的边界信息,以提高分割结果的边界质量。实验结果表明,我们的网络在乳腺超声病变分割方面优于最先进的图像分割方法。



贡献

  1. 我们基于 Swin Transformer 构建残差 Swin Transformer 块(RSTB),对 CNN 提取的特征进行全局建模。
  2. 我们设计了一个基于通道注意机制的交互式通道注意(ICA)模块。它利用监督编码器特征输出编码器每一层的特征来关注肿瘤相关区域,并为这些特征通道分配较大的权重。
  3. 我们提出了一种基于门控机制的补充特征融合(SFF)模块。编码过程选择性地从编码器接收特征以补充编码器的特征信息。
  4. 我们在解码器的中间层添加边界检测(BD)模块来识别乳腺病变的边界图并获得具有高质量边界的病变特征。


方法

整体框架

在这里插入图片描述
1. 图画的稍微有点乱,自己动手画成U型结构会比较好理解;
2. 整个模型是对瓶颈层和解码器层进行重点优化的;
3. SFF在常规UNet中是上采样的位置(一个输入一个输出)却有两个输入,所以将其看成解码器模块会比较好理解
4. 基于3,则该模型的解码器模块有7层,重点对模型不同阶段的特征进行融合;
5. 模型也使用了深监督的思想,有四个输出;

1. Residual Swin Transformer block

在这里插入图片描述
在这里插入图片描述
1. 这一部分75%的内容在介绍VIT和Swin-VIt,只有最后说了一下RSTB的结构;
2. 就是一个预训练的Swin-Vit Block的堆叠使用以及类似于ASPP的多层融合;
3. 难点是如何优雅的将代码嵌入瓶颈层并且产生作用,没代码,真苦恼🐕

2. Interactive channel attention module

在这里插入图片描述
1. 就是一个通道注意力的使用,唯一不同的是输入是有两个

3. Supplementary feature fusion module

在这里插入图片描述
依旧是两个输入,重点是使用了不同层级的特征进行融合,同时使用(1-a)来进行权重提取,有一定的理解难度;

4. Boundary detection module

在这里插入图片描述
介绍如何得到分割目标的掩膜边界

实验

深度监督,混合损失:
在这里插入图片描述
Ls是瓶颈层输出损失;Lb是解码器模块输出损失;Lo是模型最后输出的损失;
两个公开的乳腺肿瘤分割数据集:
1. Yap, M. H., Pons, G., Marti, J., Ganau, S., Sentis, M., Zwiggelaar, R., Davison, A. K., & Marti, R. (2018). Automated breast ultrasound lesions detection using convolutional neural networks. IEEE Journal of Biomedical and Health Informatics, 22(4), 1218–1226, URL: https://doi.org/10.1109/JBHI.2017.2731873. 可直接根据连接下载

2. Al-Dhabyani, W., Gomaa, M., Khaled, H., & Fahmy, A. (2019). Dataset of breast ultrasound images. Data in Brief, 28, Article 104863, URL: https://doi.org/10.1016/ j.dib.2019.104863. 填写申请同意后下载

1. 消融实验

在这里插入图片描述
这个数据集我也在跑,为啥我的结果只能达到人家Baseline的效果啊,我想要人家的代码或者是人家的数据集划分情况🐕,挖坑,今晚就要,坐等回复🐕
从消融实验结果上来看,各个模块的效果提升明显;不过从最后的模型来看,DB在添加上去后的提升效果略弱
在这里插入图片描述
同时文章重点讨论了RSTD(瓶颈层Swin VIt的变体)的结构变化对模型的影响,得出两个结论
1. 带残差的效果会更好; 2. 使用数值相加比通道拼接的效果更好

2. 对比实验

在这里插入图片描述
1. 自己也跑了相同的数据集,即使是U-Net,U-Net++这些模型的效果我都没有跑过该文章中提供的数据,这个最有可能的原因是数据集的划分
2. 在Dataset1 上的结果明显优于Dataset2
在这里插入图片描述
在这里插入图片描述

3. 失败案例讨论

在这里插入图片描述
盲猜是审稿人让加上的,哈哈哈,贴一下失败案列的解释:

These cases neglect some regions of breast lesions on the ultrasound images. This indicates that it is difficult to accurately segment the lesion tissue when the lesion boundary is not clear and the lesion region is heterogeneous in intensity.
这些病例忽略了超声图像上乳腺病变的某些区域。这说明当病灶边界不清晰、病灶区域强度不均匀时,很难准确分割病灶组织。

可借鉴参考

  1. 阅读DS-TransUNet 2022
    Lin, A., Chen, B., Xu, J., Zhang, Z., Lu, G., & Zhang, D. (2022). DS-TransUNet: Dual swin transformer U-net for medical image segmentation. IEEE Transactions on Instrumentation and Measurement, 71, 1–15, URL: https://doi.org/10.1109/TIM. 2022.3178991.
    代码:https://github.com/TianBaoGe/DS-TransUNet
  2. 阅读SMU-net 2022
    Ning, Z., Zhong, S., Feng, Q., Chen, W., Zhang, Y., & Ning, Z. (2022). SMU-net: Saliencyguided morphology-aware U-net for breast lesion segmentation in ultrasound image. IEEE Transactions on Medical Imaging, 41(2), 476–490, URL: https://doi.org/10. 1109/TMI.2021.3116087.
  3. 阅读 UCTransNet 2022
    Wang, H., Cao, P., Wang, J., & Zaiane, O. R. (2022). UCTransNet: Rethinking the skip connections in U-net from a channel-wise perspective with transformer. In Proceedings of the AAAI conference on artificial intelligence, Vol. 36 (pp. 2441–2449). URL: https://doi.org/10.1609/aaai.v36i3.20144.
    代码:https://github.com/McGregorWwww/UCTransNet

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1000130.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ROS1和ROS2的区别

ROS虽然将各个部分的各个组件给有机的连接起来,但是需要通过一个叫做Ros Master的东西,所有节点(可以理解为某一个组件,比如:激光雷达)的通信建立必须经过这个主节点,一旦Ros Master主节点挂掉后…

OSCS开源安全周报第 59 期:Apache Superset<2.1.1 远程代码执行漏洞(CVE-2023-37941)

本周安全态势综述 OSCS 社区共收录安全漏洞 7 个&#xff0c;公开漏洞值得关注的是 Apache Superset<2.1.1 远程代码执行漏洞( CVE-2023-37941 )、Redis SORT_RO命令可绕过 ACL 配置( CVE-2023-41053 )、Argo CD 集群密钥泄漏风险( CVE-2023-40029 )、Cacti<1.2.25 repo…

SpringBoot-Learning系列之Kafka整合

SpringBoot-Learning系列之Kafka整合 本系列是一个独立的SpringBoot学习系列&#xff0c;本着 What Why How 的思想去整合Java开发领域各种组件。 消息系统 主要应用场景 流量消峰(秒杀 抢购)、应用解耦&#xff08;核心业务与非核心业务之间的解耦&#xff09;异步处理、顺序…

多要素气象站:自动观测、数据可查

随着科技的不断发展&#xff0c;气象监测已经从传统的人工观测转变为自动化观测。多要素气象站作为自动化气象观测的重要组成部分&#xff0c;为天气预报提供了更加精准、实时的数据。 一、多要素气象站的优势 自动化程度高&#xff1a;多要素气象站采用先进的传感器和数据采…

算法AB实验平台进化历程和挑战

1 AB 平台简介 AB 实验平台这几年在互联网公司得到了越来越广泛的应用&#xff0c;采用 AB 实验来评估产品和技术迭代效果也成为主流的业务新功能效果评估方式&#xff0c;数据驱动的文化在这几年得到了不少公司的广泛的认同&#xff0c;通过数据和指标来说明产品效果也得到了…

win11电脑怎么设置定时关机

我们可以给电脑设置一个定时关机的功能&#xff0c;这样当我们有事情而无法在电脑前等待关机的时候就可以让电脑自己关机了&#xff0c;那么win11系统怎么设置定时关机功能呢&#xff0c;这里小编给大家带来win11电脑定时关机的设置方法&#xff0c;还不太清楚的小伙伴快来看一…

行业追踪,2023-09-11

自动复盘 2023-09-11 凡所有相&#xff0c;皆是虚妄。若见诸相非相&#xff0c;即见如来。 k 线图是最好的老师&#xff0c;每天持续发布板块的rps排名&#xff0c;追踪板块&#xff0c;板块来开仓&#xff0c;板块去清仓&#xff0c;丢弃自以为是的想法&#xff0c;板块去留让…

数据库直连提示 No suitable driver found for jdbc:postgresql

背景&#xff1a;我在代码里使用直连的方式在数据库中创建数据库等&#xff0c;由于需要适配各个数据库服务所以我分别兼容了mysql、postgresql、oracal等。但是在使用过程中会出现错误&#xff1a; No suitable driver found for jdbc:postgresql 但是我再使用mysql的直连方式…

JOSEF约瑟 DL-41 DL-42 DL-43 DL-44 导轨式电流继电器 过负荷和短路保护

DL-41导轨式电流继电器是一种常用于电机、变压器和输电线的过负荷和短路保护线路中的起动元件。 DL-41导轨式电流继电器具有体积小、外形直观、安装接线方便等优点&#xff0c;是随着开关柜体不断改进而新研发的配套产品。该继电器采用凸出式固定结构&#xff0c;也可卡装在35…

Unity中Shader使用最简屏幕坐标并且实现屏幕扭曲

文章目录 前言一、在之前写的shader中&#xff0c;用于对屏幕坐标取样的pos是在顶点着色器中完成计算的&#xff0c;然而还有一种更为简洁的方法&#xff0c;就是用顶点着色器中传给片元着色器的pos来给屏幕抓取进行采样原理&#xff1a;在顶点着色器中&#xff0c;o.pos是裁剪…

flv怎么转换成mp3?挑选三个方法给大家

flv怎么转换成mp3&#xff1f;FLV&#xff08;Flash Video&#xff09;是一种被广泛应用于互联网的流行视频格式&#xff0c;然而该格式并非适用于所有设备和媒体播放器。相反&#xff0c;MP3作为数字音频格式&#xff0c;能够将高质量的音频文件压缩成相对较小的大小&#xff…

IDEA使用database

一、导出数据库表结构 右键数据库、表&#xff0c;选择SQL Generator 可以查看多表的创建语句、删除语句、清空语句 1.创建脚本 初始创建脚本 rdbms提供的脚本 definition provided by rdbms server 2.脚本是否关联数据库名称 Qualify objects with schema names: aut…

记录造数据测试接口

一、前言 在java开发中经常需要造数据进行测试接口&#xff0c;这里记录一下常用的通过造数据测试接口的方法。 二、一般的接口传参方式 1、接口的方式最好是使用JSON或者map的方式&#xff0c;这样的好处是传参可以灵活伸缩&#xff0c;返回的结果也最好是JSON或者map的方式…

【Spring面试】六、@Autowired、@Configuration、第三方Bean的配置

文章目录 Q1、如何让自动注入没有找到依赖Bean时不报错&#xff1f;Q2、如何让自动注入找到多个依赖的Bean时不报错&#xff1f;Q3、Autowired注解有什么作用&#xff1f;Q4、Autowired和Resource之间的区别Q5、Autowired注解自动装配的过程是怎样的&#xff1f;Q6、Configurat…

sql server事务隔离别 、 mysql 事务隔离级别、并发性问题

隔离级别和锁 SQL中 mysql 、Oracle 、sql server 等数据库 都是客户端和服务器架构的软件&#xff0c;对于同一个服务器来说&#xff0c;可以有若干个客户端与之连接&#xff0c;每个客户端与服务器连接上之后&#xff0c;就可以称为一个 【会话&#xff08;session&#xff0…

leaflet 加载地图-引入各种地图

leaflet 加载地图-引入各种地图 一、智图地图 1、Geoq.Normal.Gray &#xff08;或 Geoq.Normal.Map&#xff09;灰色 let gaoDeLayer L.tileLayer.chinaProvider(Geoq.Normal.Gray);gaoDeLayer.addTo(this.map);2、Geoq.Normal.Warm 黄色 let gaoDeLayer L.tileLayer.chin…

计算机竞赛 基于计算机视觉的身份证识别系统

0 前言 &#x1f525; 优质竞赛项目系列&#xff0c;今天要分享的是 基于机器视觉的身份证识别系统 该项目较为新颖&#xff0c;适合作为竞赛课题方向&#xff0c;学长非常推荐&#xff01; &#x1f9ff; 更多资料, 项目分享&#xff1a; https://gitee.com/dancheng-sen…

2023年数维杯数学建模A题河流-地下水系统水体污染研究求解全过程文档及程序

2023年数维杯数学建模 A题 河流-地下水系统水体污染研究 原题再现&#xff1a; 河流对地下水有着直接地影响&#xff0c;当河流补给地下水时&#xff0c;河流一旦被污染&#xff0c;容易导致地下水以及紧依河流分布的傍河水源地将受到不同程度的污染&#xff0c;这将严重影响…

安全可靠的文件传输服务助力完成更高效的医疗保健工作(上)

医疗保健工作是关乎人类健康和社会进步的重要领域&#xff0c;需要处理和传输大量医疗数据&#xff0c;如患者资料、医疗图像、化验单、电子病历、诊断建议等。这些数据不仅涉及患者的个人隐私和医疗安全&#xff0c;还关系到医院的运行效率和医疗水平。 因此&#xff0c;如何…

推荐5款同类型中独树一帜的软件

今天要给大家推荐的是5款软件&#xff0c;每个都是同类软件中的个中翘楚&#xff0c;请大家给我高调地使用起来&#xff0c;不用替我藏着掖着。 1.动画演示制作——Focusky ​ Focusky 是一款专业的动画演示制作软件&#xff0c;可以让你用简单直观的方式制作各种折线图、柱状…