SMiT:用于疾病严重程度检测的对称口罩变压器
Chengsheng Zhang1, Cheng Chen2, Chen Chen3
1The College of Software, Xinjiang University, Urumqi, 830046, China.
Journal of cancer research and clinical oncology
|September 12, 2023
概括
一个新的对称面具预训练视觉转换器 (SMiT) 模型增强了用于疾病诊断的病理图像分析. 这种深度学习方法提高了癌症图像分级的准确性,帮助医生在临床决策中做出决定.
科学领域:
- 医疗成像医学成像
- 深度学习 (Deep Learning) 是一种深度学习.
- 计算病理学计算病理学
背景情况:
- 深度学习有助于智能疾病诊断,但在病理图像中分类小或不均的病变区域存在挑战.
- 传统的卷积神经网络 (CNN) 模型可能在复杂的损伤区域中难以提取特征,这会影响诊断的准确性.
研究的目的:
- 提出一种纯变压器框架,用于对病理图像进行准确的诊断分级.
- 开发一种新的对称面具预训练视觉转换器 (SMiT) 模型,以克服医疗图像分析现有的深度学习方法的局限性.
主要方法:
- SMiT模型采用对称面具预训练在视觉变压器上,专注于图像令牌序列的高概率散散化.
- 训练前的重量被加载,以微调基线模型,从而能够更好地提取损伤区域内的详细特征,并减少特征依赖.
主要成果:
- 在结直肠癌组织病理学图像上,SMiT实现了92.8%的分类准确度.
- 对APTOS2019糖尿病视网膜病变数据集的验证显示,二次科恩·卡帕,准确度和F1得分分别为91.9%,86.91%和72.85%,比CNN型号的表现优于1-2%.
结论:
- SMiT模型提供了一种更简单但更有效的策略,用于提高病理图像分级的诊断准确性.
- 这种基于变压器的方法为利用医疗成像应用中的视觉变压器和协助临床决策提供了有价值的见解.
