专栏名称: 学姐带你玩AI
这里有人工智能前沿信息、算法技术交流、机器学习/深度学习经验分享、AI大赛解析、大厂大咖算法面试分享、人工智能论文技巧、AI环境工具库教程等……学姐带你玩转AI!
51好读  ›  专栏  ›  学姐带你玩AI

性能再升级!UNet+注意力机制,新SOTA分割准确率高达99%

学姐带你玩AI  · 公众号  ·  · 2024-04-21 18:10

正文

UNet结合注意力机制能够有效提升图像分割任务的性能。

具体来说,通过将注意力模块集成到UNet的架构中,动态地重新分配网络的焦点,让其更集中在图像中对于分割任务关键的部分。这样UNet可以更有效地利用其跳跃连接特性,以精细的局部化信息来提升分割精度。

这种策略可以帮助UNet更精确地界定目标边界, 提升分割精度和效率 。同时引导网络关注更有信息量的局部区域, 减少模型对计算资源的需求。

以CAS-UNet算法为例:


CAS-UNet是一种基于注意机制的视网膜血管分割算法,它通过引入跨融合通道注意机制、加性注意门模块和SoftPool池化模块,改进了传统的U-Net算法,提高了模型的分割能力和对细节图像区域的分割效果。


在CHASEDB1和DRIVE数据集上的实验结果表明,CAS-UNet分别达到了96.68%和95.86%的准确率,以及83.21%和83.75%的灵敏度,优于现有的基于U-Net的经典算法。

本文挑选了 12个 UNet结合注意力机制最新成果 ,可借鉴的方法和创新点做了简单提炼,原文以及相应代码都整理了,方便同学们学习和复现。

扫码 添加小享,回复“ UNet结合
免费获取 全部 文+开源代码

High-Resolution Model for Segmenting and Predicting Brain Tumor Based on Deep UNet with Multi Attention Mechanism

方法: 论文提出了一种利用增强注意机制的UNet框架分割脑肿瘤的新技术。通过在记录全面的上下文信息的同时,通过选择性地强调重要方面的注意过程,该策略克服了脑肿瘤分割的挑战。在总体准确率方面表现出色,达到了99%的准确率。

创新点:

  • 建立了一种基于UNet和多重注意机制的深度学习模型,用于精确分割和预测脑肿瘤。该模型通过在UNet架构中整合注意机制来强化特征提取和上下文理解,从而克服了传统分割技术的局限性。
  • 通过引入空间注意和通道注意机制,提高了模型对肿瘤和非肿瘤区域的区分能力,并加强了对多尺度层次的上下文理解。
  • 利用离散余弦变换(DCT)从医学图像中提取特征,降低了计算复杂度和内存需求。这有助于减少UNet模型的输入数组维度。

DA-TransUNet: Integrating Spatial and Channel Dual Attention with Transformer U-Net for Medical Image Segmentation

方法: 论文提出一种新的深度医学图像分割框架DA-TransUNet,旨在将Transformer和双注意力块(DA-Block)与传统的U-shaped架构相结合,以改善医学图像分割的性能。通过在嵌入层和每个跳跃连接层中引入DA-Block,提高特征提取能力和编码器-解码器结构的效率,从而改善医学图像分割的性能。

创新点:

  • DA-TransUNet:将双重注意机制集成到Transformer U-net框架中,将位置和通道信息处理与编码器-解码器结构相结合,提高了医学图像分割任务的性能。
  • 双重注意块(DA-Block):在编码器的Transformer层之前和跳跃连接中引入了DA-Block,增强了特征提取能力,改善了图像分割性能。

扫码 添加小享,回复“ UNet结合
免费获取 全部 文+开源代码

SCTV-UNet: a COVID-19 CT segmentation network based on attention mechanism

方法: 论文提出了一种新的COVID-19分割网络SCTV-UNet,结合了编码器上的注意力机制。同时,还提出了一种新的复合损失函数DTVLoss,可以解决传统U型网络预测图像边界模糊和病变区域与背景之间对比度弱的问题。

创新点:

  • 提出了一种新的COVID-19分割网络SCTV-UNet,结合了编码器上的注意机制。通过引入SC注意力到编码器中,可以捕获更多的语义信息,突出病变区域的特征,并抑制其他区域。因此,SCTV-UNet比TV-UNet有更好的分割效果和分割准确性。
  • 提出了一种新的复合损失函数DTVLoss。它可以解决传统U型网络预测图像边界模糊和病变区域与背景之间对比度弱的问题。通过将DTVLoss替换TVLoss,可以解决TV-UNet预测图像中边界模糊和病变区域与背景之间对比度弱的问题。







请到「今天看啥」查看全文