利用轻量级变压器与上下文协同增强来实现高效的3D医疗图像分割

科学领域:

• 医疗成像医学成像
• 人工智能的人工智能
• 计算机视觉 计算机视觉

背景情况:

• 变压器在3D医学图像细分方面表现出色,但需要高计算资源和广泛的标记数据.
• 目前的方法面临效率和数据要求的局限性,阻碍了广泛的临床采用.

研究的目的:

• 开发一个轻量级变压器 (Light-UNETR) 以实现高效的3D医疗图像细分.
• 在基于变压器的医疗图像分析中提高模型效率和数据效率.

主要方法:

• 拟议的轻型UNETR采用轻量级减小注意力 (LIDR) 模块用于特征提取,并采用紧门线性单元 (CGLU) 以提高参数效率.
• 引入了使用注意力引导替换和空间掩饰一致性的上下文协同增强 (CSE) 策略,以改善从未标记的数据中学习.

主要成果:

• 轻型UNETR在多个基准测试中表现出卓越的性能和效率.
• 与BCP相比,只使用10%的标记数据,在左心房细分上达到1.43%的Jaccard指数.
• 减少了90.8%的FLOP和85.8%的参数.

结论:

• 光-UNETR为3D医疗图像细分提供了高效和有效的解决方案.
• 提出的方法显著提高了数据效率,使有限的标记数据能够进行强大的细分.