自主监督学习提高了深度学习肺瘤细分模型与CT成像差异的稳定性
Jue Jiang1, Aneesh Rangnekar1, Harini Veeraraghavan1
1Department of Medical Physics, Memorial Sloan Kettering Cancer Center, New York, New York, USA.
Medical physics
|December 5, 2024
概括
野生预训练的Swin模型显示,与自我预训练的模型相比,CT扫描对肺癌细分的稳定性有所改善. 像ViT和CNN这样的其他架构没有显示出野生预训练的明显优势.
科学领域:
- 人工智能的人工智能
- 医学成像分析 医学成像分析
- 计算机视觉 计算机视觉
背景情况:
- 自主监督学习 (SSL) 从未标记的数据中提取功能,用于下游任务.
- 自主预训练使用精心策划的数据集,用于预训练和微调.
- 未经精确的公共医疗图像通过"野生"SSL提供了强大的基础模型的潜力.
研究的目的:
- 在非小细胞肺癌 (NSCLC) 细分方面,比较野生与自我预训练模型 (CNN,ViT,Swin) 的强度.
- 评估3D计算机断层扫描 (CT) 扫描上的模型.
- 评估不同预训练策略对模型性能的影响.
主要方法:
- 野生预训练和自我预训练应用于CNN,ViT和Swin模型,使用未标记和策划的NSCLCCT数据集.
- 在两种预训练方法中都使用了掩面图像转换器借口任务.
- 在各种NSCLC数据集上微调和测试模型,评估准确性,对成像变异的稳定性和功能重复使用.
主要成果:
- 野生预训练的Swin模型表现出更高的功能重复使用,并且表现优于自我预训练的模型.
- 在ViT和CNN模型中,野生预训练与自我预训练没有显著的益处.
- 蒙面图像预测借口任务的准确性高于对比任务.
结论:
- 野生预训练的Swin网络在肺瘤细分方面表现出优越的稳定性,与CT成像变异相对抗.
- 与自我预训练相比,ViT和CNN模型没有从野外预训练中获得明显的优势.
- 架构和预训练策略的选择会影响医疗图像分析的稳定性.


