眼科图像分类的高效视觉转换器:对监督,半监督和无监督学习方法的比较研究

科学领域:

• 眼科医生 眼科 眼科
• 计算机科学 计算机科学
• 人工智能的人工智能
• 机器学习 机器学习

背景情况:

• 医学成像,特别是眼科,面临着高标注成本的挑战,限制了AI诊断工具的发展.
• 监督学习模型需要大量的标记数据,而在眼科成像等专业领域,这些数据是稀缺而昂贵的.
• 开发强大的诊断系统需要方法,即使使用有限的标记数据集,也可以有效执行.

研究的目的:

• 调查监督,半监督和无监督学习策略的整合,以在标签稀缺条件下对眼科图像进行分类.
• 通过利用最小的标记数据和强大的特征表示来提高眼科诊断性能.
• 评估不同变压器架构和学习策略在改进人工智能驱动的眼科诊断方面的有效性.

主要方法:

• 采用了18767张多式眼科图像的数据集 (1877张有标签,16890张没有标签).
• 使用ViT-Base,DeiT-Base和MaxViT-L变压器架构进行员工监督学习.
• 通过伪标签 (信心值≥0.98) 实现半监督学习,并使用基于SimCLR的对比学习和K-means集群进行无监督学习.

主要成果:

• 在监督学习中,ViT-Base实现了92.47%的准确性. 在半监督伪标签后,MaxViT-L达到97.49%的准确性和0.9982 AUC.
• 无监督对比学习与MaxViT-L改进的特征集群 (轮得分:0.556,DBI:0.541).
• MaxViT-L在外部验证集上表现出卓越的性能,尽管计算复杂性更高,但在准确性和概括性之间提供了有利的权衡.

结论:

• MaxViT-L,特别是在半监督和无监督的环境中,在诊断性能和眼科图像分类的模型概括之间提供了强大的平衡.
• 综合方法有效地减少了对专家注释的依赖,为可扩展和自动化的眼科诊断解决方案铺平了道路.
• 这项研究强调了先进的机器学习技术的潜力,以克服医疗AI中的数据稀缺挑战,提高眼科诊断能力.