视网膜基础模型有多基础? 估计RETFound的标签效率对正常与异常OCT图像的二进制分类
David Kuo1, Qitong Gao2, Dev Patel2
1Department of Ophthalmology, Duke University, Durham, North Carolina.
Ophthalmology science
|March 31, 2025
概括
在广泛的眼科数据上进行预训练的RETFound模型在识别正常与异常的OCT B扫描中明显优于ResNet-50和ViT-L等其他模型. 这表明了专业预训练对医疗成像任务的价值,即使有有限的标记数据.
科学领域:
- 眼科医生 眼科 眼科
- 医疗成像医学成像
- 机器学习 机器学习
背景情况:
- 由于隐私和成本限制,机器学习的进展往往受到标记医疗数据的稀缺限制.
- 自主监督学习,特别是对大型未标记数据集的预训练,显示出改善下游任务模型性能的希望.
- 在160万张视网膜图像上预训练的大型视觉转换器RETFound模型,代表了眼科AI的重大进步.
研究的目的:
- 评估RETFound模型的标签效率,用于识别正常与异常的光学一致性断层扫描 (OCT) B扫描.
- 在初级保健糖尿病视网膜病变查背景下,将RETFound的性能与已建立的模型 (ResNet-50,ViT-L) 进行比较.
主要方法:
- 来自647名患者的1150个OCT B扫描被随机分配到培训,验证和测试组.
- 三个模型 (ResNet-50,ViT-L,RETFound) 在不同大小的数据集上进行了微调 (915到50个OCT B扫描).
- 用准确度,AUROC,AUPRC,F1分数,精度和回忆来评估模型的性能.
主要成果:
- 在所有指标和数据集大小上,RETFound的表现始终优于ResNet-50和ViT-L.
- 在较大的数据集上,ResNet-50和ViT-L的性能相似,但在较小的子集上显著下降.
- 该研究强调了RETFound在有限的标记数据中学习的卓越能力,强调了视网膜特异性预训练的好处.
结论:
- 这些发现证实了RETFound模型针对眼科任务的专业预训练的有效性.
- RETFound表现出强大的标签效率,使其适用于具有有限标记的OCT B扫描数据的应用.
- 建议进行进一步的研究,以优化RETFound在各种下游应用中的微调策略.
