MedAlmighty:通过大视力模型提炼来增强疾病诊断
Yajing Ren1, Zheng Gu1, Wen Liu1
1Artificial Intelligence and Smart Mine Engineering Technology Center, Xinjiang Institute of Engineering, Urumqi, China.
Frontiers in artificial intelligence
|August 28, 2025
概括
通过将大型视觉模型与轻量级的CNN相结合, 提高医学疾病的诊断能力. 这种方法提高了复杂的医疗数据场景的准确性和稳定性.
科学领域:
- 医学成像和诊断
- 医疗保健中的人工智能
- 医学中的机器学习
背景情况:
- 准确的疾病诊断至关重要,但由于医疗数据有限而异质,
- 轻量级模型缺乏全面的理解,而大型模型在专门的医疗任务中遭受域不匹配.
研究的目的:
- 提出MedAlmighty,一个知识蒸框架,将一般和专门的AI模型性能用于医学诊断.
- 利用大型视觉模型和轻量级CNN的优势, 克服医疗AI的数据限制.
主要方法:
- 使用DINOv2 (大型视觉模型) 作为冷的教师和轻量级的CNN作为可训练的学生.
- 用老师的硬标签和软目标来提炼知识.
- 采用混合损失函数,将交叉和库尔巴克-莱布勒分歧结合起来,以实现高效的领域意识学习.
主要成果:
- 在稀疏和多样化的医疗数据集上,MedAlmighty显著改善了疾病诊断性能.
- 该模型通过将可概括的表示与专业知识相结合,超越了基线.
- 在复杂的诊断场景中表现出增强的稳定性和准确性.
结论:
- 通过蒸,MedAlmighty有效地增强了使用冷大视觉模型的通用域表示.
- 这一框架为医疗成像中的数据短缺和领域差距问题提供了解决方案.
- 未来的工作包括将蒸扩展到多式联络医疗数据.
