大规模的基准测试和促进转移学习用于医疗图像分析
Mohammad Reza Hosseinzadeh Taher1, Fatemeh Haghighi1, Michael B Gotway2
1School of Computing and Augmented Intelligence, Arizona State University, Tempe, AZ 85281, USA.
Medical image analysis
|March 21, 2025
概括
卷积神经网络 (ConvNets) 在医学图像分析转移学习中优于视觉转换器. ConvNets的注释效率更高,细粒度的特征对于特定的医疗任务至关重要.
科学领域:
- 人工智能的人工智能
- 医疗成像医学成像
- 计算机视觉 计算机视觉
背景情况:
- 转移学习对于医学图像分析至关重要,但由于众多的架构和预训练策略,选择最佳的预训练模型是具有挑战性的.
- 缺乏大规模的,最新的评估,使得从业者在为他们的特定医学成像任务选择最佳模型时受到阻碍.
研究的目的:
- 系统地评估各种深度学习模型的可转移性,包括ConvNets和视觉转换器,用于各种医学成像任务.
- 调查微调数据大小,预训练数据细度和自我监督学习方法对医学转移学习绩效的影响.
- 评估域自适应预训练的有效性,以开发高性能医学成像模型.
主要方法:
- 在各种医疗任务中对许多传统和现代的ConvNet和视觉转换器架构进行基准测试.
- 调查微调数据集大小和预训练数据细度对模型性能的影响.
- 评估一系列最近的自我监督学习方法和领域适应性预培训策略.
- 进行大约5000个实验以确保全面的分析.
主要成果:
- 与医疗成像任务中的视觉转换器相比,ConvNets具有更高的可转移性和注释效率.
- 细粒度表示对于细粒度医疗图像分析来说,比高级语义特征更为关键.
- 自主监督模型在学习整体特征方面比监督模型有优势.
- 域自适应预训练通过利用一般 (ImageNet) 和医疗特定数据集,有效地提高模型性能.
结论:
- ConvNets仍然是医学成像学转移学习的强大选择,特别是当注释资源有限时.
- 选择预训练策略,数据细节性和模型架构显著影响特定医疗任务的性能.
- 域自适应预训练为开发高效的医学图像分析工具提供了一个有希望的途径.
