少是多:选择性减少CT数据用于自我监督深度学习模型与对比学习的预训练,改善了下游分类性能
Daniel Wolf1, Tristan Payer2, Catharina Silvia Lisson3
1Visual Computing Research Group, Institute of Media Informatics, Ulm University, James-Franck-Ring, Ulm, 89081, Germany; Experimental Radiology Research Group, Department for Diagnostic and Interventional Radiology, Ulm University Medical Center, Albert Einstein Allee, Ulm, 89081, Germany.
Computers in biology and medicine
|October 10, 2024
概括
减少医学成像数据集的冗余性显著提高了对比学习性能,并加快了预训练. 这种方法增强了医疗图像分析和分类任务的深度学习模型.
科学领域:
- 医疗成像医学成像
- 深度学习 (Deep Learning) 是一种深度学习.
- 计算机视觉 计算机视觉
背景情况:
- 用对比方法进行自我监督学习在图像分析中很普遍.
- 对比性预训练对医疗图像有希望,但需要适应.
- 医学图像特征对当前的对比学习技术构成独特的挑战.
研究的目的:
- 研究医疗图像相似性如何影响对比学习.
- 制定和评估减少数据集冗余的策略,以改善预培训.
- 提高对医学数据集进行对比预训练的有效性.
主要方法:
- 探索基于深层嵌入,信息理论和散列的策略.
- 在医学预培训数据集中识别和减少冗余.
- 在多个下游分类任务中对对比学习的评估减少策略.
主要成果:
- 数据集的减少始终改善了下游任务性能 (例如,COVID CT的AUC从0.78增加到0.83).
- 在各种分类挑战中观察到显著的性能增长.
- 预训练效率提高,加速速度高达9倍.
结论:
- 数据集的质量对于成功的医学成像对比预培训至关重要.
- 拟议的方法提供了一种可转移的方法来增强医疗图像分类.
- 优化预培训数据集可以提高下游任务的深度学习模型性能.


