轻量级的视觉变压器优于卷积神经网络,用于格拉姆染色图像分类:实证研究
Hee E Kim1, Mate E Maros1, Thomas Miethke2
1Department of Biomedical Informatics at the Center for Preventive Medicine and Digital Health (CPD), Medical Faculty Mannheim, Heidelberg University, Theodor-Kutzer-Ufer 1-3, 68167 Mannheim, Germany.
Biomedicines
|May 27, 2023
概括
视觉变压器 (VT) 自动化格拉姆染色分析,以更快地检测细菌. 在大多数情况下,VTs的性能优于卷积神经网络 (CNN),为感染诊断提供了一个有前途的方法.
科学领域:
- 医学诊断 医学诊断 医学诊断
- 计算病理学计算病理学
- 机器学习在医疗保健中的应用
背景情况:
- 细菌感染需要快速识别才能得到有效的治疗.
- 格拉姆染色分析是一种基本的,但耗时的诊断技术.
- 自动化格拉姆染色分析可以显著改善诊断工作流程.
研究的目的:
- 使用视觉变压器 (VT) 自动化格拉姆染色分析.
- 将各种VT配置与卷积神经网络 (CNN) 的性能进行比较.
- 在准确性,推断时间和模型大小方面评估效率.
主要方法:
- 对六个VT模型 (BEiT,DeiT,MobileViT,PoolFormer,Swin,ViT) 和两个CNN (ResNet,ConvNeXT) 的比较分析.
- 在不同的配置中进行评估:模型大小 (小与大),训练时代 (1与100) 和量化 (float32,int8).
- 用组合数据集进行测试:公开可用 (DIBaS,n=660) 和本地 (n=8500).
主要成果:
- 视觉变压器 (VTs) 在Gram-stain分类中始终表现优于CNN.
- 较小的VT模型比较大的同行实现了1-2倍更快的推理速度 (FPS).
- 在int8配置的DeiT小型车型表现出最高的速度 (6.0FPS).
结论:
- 机器人机器人为Gram-stain自动化分析提供了一种优越的CNN替代方案.
- 优化的 VT 配置可以实现高精度和快速推理时间.
- 这种自动化加速了细菌菌株的检测,有助于及时管理感染.
