基础模型的高效微调与少量学习相结合,改善了在组织病理学中的模式识别

科学领域:

• 计算病理学计算病理学
• 医学中的人工智能
• 数字病理学数字病理学

背景情况:

• 神经网络中的监督学习在基因病理学上实现了高性能,但需要大量的数据注释.
• 大规模数据集的标签负担限制了AI在诊断中的实际应用.
• 基础模型提供了概括,但由于特定领域的挑战,在基因病理学方面表现不佳.

研究的目的:

• 为了提高基础模型的性能,使用最小的标记数据进行基因病理学分类.
• 通过自主监督学习 (SSL) 将预训练的视觉变换器 (ViTs) 适应基因病理学.
• 减少数字病理学中人工智能辅助诊断的注释要求.

主要方法:

• 从目标基因病理学领域整理了一个未标记的数据集.
• 采用了使用自主监督学习 (SSL) 的微调管道来调整预训练的视觉转换器 (ViT).
• 评估了SSL适应的基础模型在组织病理学分类任务上的性能.

主要成果:

• 显著提高了基础模型在组织病理学中的分类准确性.
• 证明了ViTs使用SSL与最小标记数据的有效适应.
• 展示了SSL训练模型在没有类标签或平衡数据的情况下提取丰富功能的能力.

结论:

• 我们的微调管道增强了基础模型对组织病理学的性能,减少了注释需求.
• 通过SSL的适应,基础模型更适合于数字病理学的实际AI辅助诊断.
• 经过SSL训练的模型提供了强大的功能提取能力,即使数据有限或不平衡.