使用级联式Swinμ变压器进行多通道MRI重建,注意力重叠

科学领域:

• 医疗成像医学成像
• 人工智能的人工智能
• 深度学习 (Deep Learning) 是一种深度学习.

背景情况:

• 深度神经网络擅长在磁共振成像 (MRI) 重建中的工件减少.
• 基于注意力的视觉转换器模型在MRI重建任务中越来越优于卷积模型.

研究的目的:

• 研究用于多通道级联MRI重建的变压器架构.
• 在转移窗口 (Swin) 变压器中探索重叠注意力与混合注意力.
• 评估变压器层数量对重建性能的影响.

主要方法:

• 采用了小型变压器级联用于多通道低样本MRI重建.
• 介绍并比较Swin变压器中的重叠注意力与混合注意力.
• 在标准的3T和低场0.3T T1加权的MRI图像上以各种加速度进行性能评估.

主要成果:

• 采用重叠注意力的模型实现了优越或与最先进的卷积方法相比可比的定量指标.
• 叠加的注意力模型在不同的加速率上表现得比混合注意力模型更一致.
• 具有较少层次的变压器架构在级联重建中被证明与具有更多层次的变压器架构一样有效.

结论:

• 证明了级联式小变压器的可行性和有效性,并对MRI重建进行重叠关注.
• 在不依赖于对大型外部数据集 (如ImageNet.net) 的预训练的情况下取得了显著的结果.
• 突出了用于先进的医学图像重建的新型变压器注意力机制的潜力.