ReFs:用于3D医疗图像细分的混合预训练范式
Yutong Xie1, Jianpeng Zhang2, Lingqiao Liu1
1University of Adelaide, Australia.
Medical image analysis
|November 13, 2023
概括
参考引导自主监督学习 (ReFs) 通过将监督任务整合到自主监督学习中来改善医疗图像细分. 这种混合方法增强了特征表示,以获得更好的下游细分性能.
科学领域:
- 人工智能的人工智能
- 计算机视觉 计算机视觉
- 医疗成像医学成像
背景情况:
- 自主监督学习 (SSL) 在医疗图像细分方面表现出色,但通常使用一个两阶段过程,其中SSL不了解下游任务,导致功能表现不足.
- 标准的SSL范式涉及无监督的表示学习,其次是监督的微调,这可能会由于任务不可知预训练而限制性能.
研究的目的:
- 引入混合预培训范式,参考引导自主监督学习 (ReFs),将监督目标集成到SSL过程中.
- 通过让SSL意识到下游任务,提高医疗图像细分的特征表示质量.
主要方法:
- 提出了一种混合的预训练模式,将自我监督和监督的目标结合起来.
- 在SSL过程中将现成的医疗图像细分任务作为监督的参考进行了整合.
- 开发了一种渐变匹配方法,以从SSL和参考任务中对齐特征提取器更新.
主要成果:
- 通过鼓励SSL和引用任务的低预测损失,证明了更好的表示质量.
- 在七个下游医疗图像细分基准上展示了有效性.
- 在大规模的未标记和参考数据集上验证了ReFs范式.
结论:
- 提出的参考引导自主监督学习 (ReFs) 范式有效地改善了医疗图像细分.
- 将监督任务集成到SSL中可以通过调整学习目标来增强特征表示.
- 在医学图像分析中,ReFs为推进自我监督学习提供了一个有希望的方向.


