一个改进的特征提取算法,用于在高维医学图像分析中强大的Swin变压器模型
Anuj Kumar1, Satya Prakash Yadav2, Awadhesh Kumar3
1Department of Computer Science and Engineering, Abdul Kalam Technical University (AKTU), Jankipuram Vistar, Lucknow, Uttar Pradesh, 226031, India; Department of Information Technology, Management Education & Research Institute (MERI), Janak Puri, Affiliated to GGSIP University, New Delhi, India.
Computers in biology and medicine
|February 21, 2025
概括
新型架构的Swin变压器通过从有限的数据中学习一般特征来增强医疗图像分析. 它的适应性注意力机制有效地处理杂的图像,在复杂的任务中实现高精度.
科学领域:
- 计算机视觉 计算机视觉
- 医学图像分析 医学图像分析
- 深度学习 (Deep Learning) 是一种深度学习.
背景情况:
- 医疗图像分析面临挑战,因为注释数据有限,图像质量问题如噪音和低对比度等.
- 高维特征提取对于医学成像中的复杂解剖结构至关重要.
研究的目的:
- 为医疗图像中高维特征提取提出一个强大的Swin变压器架构.
- 利用多任务学习,从有限的医疗数据中改进通用特征学习.
- 为了应对医疗图像中噪音,文物和低对比度的挑战.
主要方法:
- 使用了Swin Transformer架构,这是一个新的深度学习模型.
- 实施了适应性注意力机制,根据输入质量动态调整权重.
- 采用代式变压器编码器来创建用于多尺度注意力的层次结构.
- 使用多任务学习方案训练模型,同时分析各种医学成像任务.
主要成果:
- 实现了80.76%的准确性,80.28%的精度,78.04%的回忆,76.46%的F1-Score.
- 通过适应性注意力证明了对噪音和低对比度医疗图像的有效处理.
- 展示了模型在不同尺度的图像补丁中捕捉本地和远程关系的能力.
结论:
- 拟议的Swin变压器架构为医学成像中的高维特征提取提供了强大的解决方案.
- 适应性注意力和层次结构使复杂和退化的医疗图像能够得到有效的分析.
- 通过Swin Transformer进行多任务学习,可以改善新医学成像任务的概括性和性能.


