多尺度动态稀疏注意力UNet用于医疗图像分割

科学领域:

• 医学图像分析 医学图像分析
• 深度学习 (Deep Learning) 是一种深度学习.
• 计算机视觉 计算机视觉

背景情况:

• 变压器在医学成像中擅长长长远程依赖.
• 背景噪音和计算负担挑战了基于变压器的细分.
• 对于复杂的医学图像来说,保存细粒度的细节至关重要.

研究的目的:

• 开发一种新的注意力模块,用于高效准确的医疗图像细分.
• 为了解决变压器模型中背景噪声所带来的计算挑战.
• 在细分任务中保持细粒度细节的保存.

主要方法:

• 提出了多尺度动态稀疏注意力 (MDSA) 模块.
• 在细粒度自我注意之前,内置了多尺度聚合和粗粒度过.
• 使用MDSA开发的MDSA-UNet,增强的下采样合并 (EDM) 和增强的上采样合并 (EUF) 模块.

主要成果:

• 在没有预先培训的情况下,MDSA-UNet在四个数据集 (DDTI,TN3K,ISIC2018,ACD) 中实现了高细分性能.
• 获得了82.10% (DDTI),80.20% (TN3K),90.75% (ISIC2018) 和91.05% (ACDC) 的子得分.
• 保持了6.65M参数和4.54G FLOP的计算效率,分辨率为224×224.

结论:

• MDSA-UNet为医疗图像细分提供了一个计算高效和有效的解决方案.
• 动态稀疏注意力机制成功地减少了计算负载,同时保留了关键细节.
• 该模型表现出强大的性能,与预先训练的方法竞争,而不需要预先训练.