目前,基于CNN和Transformer的医学图像分割面临着许多挑战。比如CNN在长距离建模能力上存在不足,而Transformer则受到其二次计算复杂度的制约。
相比之下,Mamba的设计允许模型在保持线性计算复杂度的同时,仍然能够捕捉到长距离的依赖关系。因此
基于Mamba的医学图像分割
能够结合CNN的局部特征提取能力和Transformer的全局上下文理解能力,
更有效地处理医学图像中复杂的结构和模式。
比如首个将Mamba结构融入UNet的模型VM-UNet和新型轻量级模型UltraLight VM-UNet。
受此启发,研究者们提出了更多
Mamba医学图像分割改进方案
,我整理了其中
10个
值得学习的最新成果分享,论文以及开源代码也列上了,方便同学们复现。
扫码添加小享,
回复“
曼巴医学
”
免费获取
全部论文+开源代码
UltraLight VM-UNet: Parallel Vision Mamba Significantly Reduces Parameters for Skin Lesion Segmentation
方法:
论文提出了一种用于处理深层特征的并行Vision Mamba层(PVM层)。PVM层使用四个并行的VSS块来处理特征,每个VSS块处理的通道数是初始通道数的四分之一。由于Mamba中输入通道数对参数数量有爆炸性影响,处理四分之一通道数的VSS块参数只是原始VSS块参数的6.9%,减少了93.1%。
创新点:
-
提出了一种用于处理深度特征的并行视觉曼巴方法,名为PVM Layer,它在保持总体处理通道数不变的同时,以最低的计算负载实现了出色的性能。
-
对曼巴参数影响的关键因素进行了深入分析,并基于此提出了用于处理深度特征的并行视觉曼巴层(PVM Layer)。
VM-UNET-V2: Rethinking Vision Mamba UNetfor Medical Image Segmentation
方法:
论文提出了VM-UnetV2算法,是对医学图像分割中基于SSM的算法的改进探索。作者在七个数据集上进行了详尽的实验,结果表明VM-UNetV2具有显著的竞争力。作者是首次将基于SSM的算法与Unet变种相结合的探索者,推动了更高效、更有效的基于SSM的分割算法的发展。
创新点:
-
作者提出了VM-UnetV2,首次在医学图像分割中探索了更好的基于SSM的算法。
-
在七个数据集上进行了全面的实验,结果表明VM-UNetV2展现出显著的竞争力。
-
作者首次探索了将基于SSM的算法与Unet变体相结合,推动了更高效、更有效的基于SSM的分割算法的发展。
扫码添加小享,
回复“
曼巴医学
”
免费获取
全部论文+开源代码
Large Window-based Mamba UNet for Medical Image Segmentation: Beyond Convolution and Self-attention
方法:
论文引入了一种基于Mamba的UNet模型用于医学图像分割,实现了大窗口空间建模。此外,作者设计了一种分层和双向的SSM,进一步增强了Mamba在局部和全局特征建模方面的能力。
创新点:
-
提出了基于大窗口的Mamba U-Net(LMa-UNet)用于二维和三维医学图像分割。相比于基于小核的CNN和基于小窗口的Transformer,LMa-UNet利用大窗口在局部空间建模方面具有优势,在全局建模方面保持了超过二次复杂度的自注意力的高效性能。
-
设计了一种新颖的分层和双向的Mamba模块,进一步增强了Mamba在全局和局部空间建模能力。通过引入双向扫描,模型能够更好地关注图像中具有更多器官和病变的中心区域,并能够很好地对每个补丁的绝对位置信息和相对位置信息进行建模。