ATTransUNet:一种增强型混合Transformer结构用于超声图像分割

news2024/11/18 11:17:42

ATTransUNet

  • 期刊分析
    • 摘要
    • 贡献
    • 方法
      • 整体框架
      • 1.Adaptive Token Extraction Module
      • 2.Feature Reprojection Mechanism
      • 3.Selective Feature Reinforcement Module
    • 实验
      • 1.对比实验
      • 2.消融实验
        • 2.1 Ablation of the Number of Tokens and Transformer layers
        • 2.2 Ablation of the Feature Reprojection mechanism
        • 2.3 Ablation of the Selective Feature Reinforcement Module
  • 可借鉴参考

期刊分析

期刊名: Computers in Biology and Medicine
期刊信息: IF: 7.7; JCR: Q1; 中科院二区
投稿周期:
本篇: Received: 25 June; Revised: 13 November; Accepted: 25 November
网站统计:录用比例:容易; 审稿周期:约10.5月
其余信息: LetPub
该论文没有代码,纯纯学习的

摘要

医学图像的准确自动分割是临床诊断和分析的关键步骤。本文提出了一种增强型Transformer混合分割网络(ATTransUNet)来探索医学图像中高效的token挖掘方法,并结合自注意力机制进行医学图像分割,以达到性能和效率之间的平衡。此外,为了进一步提高分割精度并融合CNN和Transformer各自的优点,本文设计了选择性特征强化模块(SFRM)。本文提出的模型能够准确定位待分割的结构,显着提高了多个数据集上医学图像分割的准确性。



贡献

  1. 提出了自适应令牌提取模块(ATEM)。该模块不依赖于统一分割形成的标记,而是能够挖掘特征图中代表聚合语义的一些标记,并且 Transformer 对这些标记进行建模。我们的方法减少了计算负载并使网络具有全局上下文建模能力。此外,我们提出了特征重投影机制,将标记重新映射到特征图,以进行分割的上采样。
  2. 提出了选择性特征强化模块(SFRM)。 SFRM 对特征空间中的像素确定性进行建模,以选择性地鼓励网络专注于主要语义特征的表示。通过SFRM,网络的学习中心可以始终停留在具有上下文信息的组织区域,从而提高了网络表示病理组织或结构的能力。
    在这里插入图片描述


方法

整体框架

在这里插入图片描述
直观感受,这个模型的参数量和计算量都很大,但是取巧的是,模型的整体五个通道数为32, 64, 128, 256, 512,相较于普通U-Net的64, 128, 256, 512, 1024会少很多,这也是减少冗余参数量的方式,有所取舍。

重点就三个部分: Feature转Token、Token转Feature、增强的解码器

1.Adaptive Token Extraction Module

在这里插入图片描述
在这里插入图片描述
主要思想: 将转化后的数据展开与展开后的原始数据进行相乘得到Token。

2.Feature Reprojection Mechanism

在这里插入图片描述
主要思想: 将Token转Feature,与Encoder底层的输出I相乘,最后还使用了残差连接。

3.Selective Feature Reinforcement Module

在这里插入图片描述
主要思想: 就是一个通道注意力权的使用,但是难点是使用1-E作为权重相乘,贴上原文的解释:

When the class probabilities of pixels tend to a uniform distribution, the larger the entropy is, the more likely it is to belong to uncertain edge or texture features. However, when the class probability of pixels tends to a certain category, the entropy is small and the semantic distribution is unified. The pixels are more likely to belong to the regular tissues or feature regions. SFRM enables the network to adaptively reduces the focus on tissues and pathological features of the edge and enhance major semantic features.
当像素的类别概率趋于均匀分布时,熵越大,越有可能属于不确定的边缘或纹理特征。然而,当像素的类别概率趋于某一类别时,熵较小,语义分布统一。像素更有可能属于规则组织或特征区域。 SFRM使得网络能够自适应地减少对边缘组织和病理特征的关注并增强主要语义特征

实验

1.对比实验

在这里插入图片描述
在这里插入图片描述

三个数据集:私有甲状腺超声数据集ThyroidUS、公开腺体分割数据集GlaS、公开病例切片数据集MoNuSeg
没啥好说的,就是这个多核细胞的分割结果图排版可以学习一下

2.消融实验

2.1 Ablation of the Number of Tokens and Transformer layers

在这里插入图片描述
在这里插入图片描述
相知道这个图是咋出来的🐕😊

2.2 Ablation of the Feature Reprojection mechanism

在这里插入图片描述

2.3 Ablation of the Selective Feature Reinforcement Module

在这里插入图片描述
新学的三个词: W/o 不带; W/ 带; Vanilla 普通的,原始的
相较于原始的通道注意力,文中提出的选择性特征增强模块效果不是很明显
在这里插入图片描述
这个使用GradCam算法就可以得到了

可借鉴参考

  1. 私有数据集描述

The study has been approved by the Medical Ethics Committee of Tianjin Medical University Cancer Institute and Hospital. Written consent has been obtained from each patient after a full explanation of the purpose and nature of all procedures used.
该研究已获得天津医科大学肿瘤医院医学伦理委员会批准。在充分解释所用所有程序的目的和性质后,已获得每位患者的书面同意。

  1. P值检验来显示模型提升效果的显著性
from scipy import stats
# UNet的Dice结果
unet_dice = [0.83, 0.835, 0.850]
# Att-UNet的Dice结果
att_unet_dice = [0.886, 0.899, 0.865]
# 执行独立样本t检验
t_stat, p_value = stats.ttest_ind(unet_dice, att_unet_dice)
# 输出p值
print("P值为:", p_value)
  1. 阅读MedT-Net 2021
    Valanarasu, J.M.J., Oza, P., Hacihaliloglu, I., Patel, V.M., 2021. Medical transformer: Gated axial-attention for medical image segmentation, in: International Conference on Medical Image Computing and Computer-Assisted Intervention, Springer. pp. 36–46. doi:10. 1007/978- 3- 030- 87193- 2_4.

  2. 阅读UTNet 2021
    Gao, Y., Zhou, M., Metaxas, D.N., 2021. Utnet: a hybrid transformer architecture for medical image segmentation, in: International Conference on Medical Image Computing and Computer-Assisted Intervention, Springer. pp. 61–71. doi:10.1007/978-3-030-87199-4_6.

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/984541.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

IT运维:使用数据分析平台监控H3C交换机(进阶)

概述 本文基于《IT运维:使用鸿鹄监控H3C交换机》(以下简称原文)文章进行了优化。主要优化部分包括H3C交换机日志进入到鸿鹄后,如何进行字段抽取,图表的展示,以及包括思华为交换机等的抽取规则。 ●字段抽取…

论文创新点

【醍醐灌顶】论文创新点一定要是没人做过的?盘点几种寻找idea的万能模板_哔哩哔哩_bilibilihallo这里是新新,本期视频盘点了几种百用不腻的找论文idea寻找方法,希望对你们也能有所帮助!视频中新新所整理的论文合集可以关注我的公众…

lambda表达式介绍

前言 lambda表达式是C11标准才支持的,有了它以后在一些地方进行使用会方便很多,尤其在一些需要仿函数的地方,lambda表达式完全可以替代它的功能。代码的可读性也会提高。 目录 1.lambda表达式 2.lambda表达式语法 3.函数对象和lambda表达…

STM32使用FAT文件系统-代码简读

FAT的一些基础知识、概念先看我这一篇: FAT32文件和目录的组织方式_fat32文件系统架构设计_暴躁的野生猿的博客-CSDN博客 fat文件系统的所有外部接口都在ff.h中 物理驱动器、逻辑驱动器 一个物理驱动器就是一个真实的存储设备,例如一个硬盘、一个内存…

抓拍摄像机开关量控制4K高清手机远程看图建筑生长定时缩时相机

作为物联网数据采集解决方案专业提供商,数采物联网小编daq-iot 在这里做以下内容介绍,并诚挚的欢迎大家讨论和交流。 项目案例参考视频: https://www.bilibili.com/video/BV1Kp4y1T7wQ/?spm_id_from333.999.0.0 4K高清太阳能供电定时拍照相机,通过光…

无涯教程-JavaScript - HEX2BIN函数

描述 HEX2BIN函数将十六进制数转换为二进制数。 语法 HEX2BIN (number, [places])争论 Argument描述Required/Optionalnumber 您要转换的十六进制数。 数字不能超过10个字符(40位)。数字的最高有效位是符号位(从右数第40位)。其余的39位是幅度位。 负数使用二进制补码表示。…

人工智能在电子商务中的突破性优势

最近都听说人工智能(AI)吗?电子商务的人工智能方面尤其受欢迎。当您以正确的方式使用正确的 AI技术时,您可以彻底改变您的经营方式。AI可帮助您节省时间、减少手动工作并提高数据的质量和准确性。 从本质上讲,您现在可…

移动硬盘或U盘无法弹出的解决方法

以下内容源于网络资源的学习与整理,如有侵权请告知删除。 最近在红米本win11中总遇到“该设备正在使用中”而无法弹出硬盘的问题。 解法该问题的思路:先定位占用该设备的进程,然后结束该进程。 定位进程 既然设备被占用,那肯定…

分享一下有哪些微信营销活动

微信营销活动是商家利用微信平台进行宣传和推广的一种重要方式。通过精心策划的微信营销活动,商家可以吸引更多的潜在客户,提高品牌知名度和销售额。本文将介绍几种常见的微信营销活动。 一、抽奖活动 抽奖活动是微信营销中一种非常常见的活动形式。商家…

MySQL:区分大小写

查看MySQL版本 show variables; 1、查看 MySQL 当前的区分大小写设置: SHOW VARIABLES LIKE lower_case_table_names; 或者 show Variables like %table_names 2、更改大小写敏感设置: 在 MySQL 5.7 中,更改大小写敏感设置要求修改配置文件 …

2023/9/7 -- C++/QT

作业 1> 思维导图 2> 封装一个结构体,结构体中包含一个私有数组,用来存放学生的成绩,包含一个私有变量,用来记录学生个数, 提供一个公有成员函数,void setNum(int num)用于设置学生个数 提供一个…

赠书福利开始啦—〖Effective软件测试〗

文章目录 ❤️赠书——《Effective软件测试》🌛书籍简介🌛图书链接❤️活动介绍 ❤️赠书——《Effective软件测试》 🌛书籍简介 🌟专家赞誉 本书是一本内容深刻的软件测试书籍,讲述如何平衡研发效率和整体质量来更高…

使用 UPFC 计算电力系统网络潮流(Matlab代码实现)

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…

Ubuntu yolov5 环境配置

查看Ubuntu版本 $ cat /proc/version Linux version 5.4.0-150-generic (builddbos03-amd64-012) (gcc version 7.5.0 (Ubuntu 7.5.0-3ubuntu1~18.04)) #167~18.04.1-Ubuntu SMP Wed May 24 00:51:42 UTC 2023虚拟机磁盘扩容 因为在环境搭建过程中遇到了磁盘空间不足的问题&a…

索尼 toio™ 应用创意开发征文|探索创新的玩乐世界——索尼 toio™

导语: 在技术的不断进步和发展中,玩具也逐渐融入了智能化的潮流。索尼 toio™作为一款前沿的智能玩具,给孩子和成人带来了全新的游戏体验。本文将介绍索尼 toio™的特点、功能和应用场景,让读者了解这个令人兴奋的创新产品。 1. 了…

抢先一步,新华三携手HPE正在重塑AI存储新格局

当前智能IT的创新 正呈现出蓬勃发展之势 【全球存储观察 | 热点关注】 当前,数字经济在中国获得了长足进步,并驱动着算力快速进化。为此,智能IT的创新也呈现出了前所未有的蓬勃之势。 从智能存储中枢发布到现在,新华…

LAMP搭建wordpress并使用reids加速网页

L linux A apache hhtpd M mysql/maridb P PHP1、 安装php rpm -ivh http://rpms.famillecollet.com/enterprise/remi-release-7.rpm yum install -y --enablereporemi --enablereporemi-php72 php php-opcache php-devel php-mysqlnd php-gd php-redis2、 安装mysql5.7 2.1、…

考完试家长怎么查看孩子成绩和等级?

考试结束了,孩子们的成绩和等级也出来了,对于家长来说,如何快速方便地查看孩子的成绩和等级呢?今天,我要向大家介绍一个非常实用的工具——易查分,让家长们便捷高效了解孩子的学习成果。 好消息&#xff01…

如何封装自动化测试框架?(超详细~)

封装自动化测试框架,测试人员不用关注框架的底层实现,根据指定的规则进行测试用例的创建、执行即可,这样就降低了自动化测试门槛,能解放出更多的人力去做更深入的测试工作。 本篇文章就来介绍下,如何封装自动化测试框…

【已解决】ognl.PropertyAccessor

在Spring boot2.x用TemplateEngine处理数据得时候&#xff0c;出现以下错误&#xff1a; 定位到代码行&#xff1a; 解决办法&#xff1a;修改thymeleaf的依赖&#xff1a; <!-- thymeleaf --><dependency><groupId>org.thymeleaf</groupId><…