探索可通用蒸以实现高效的医疗图像细分
IEEE journal of biomedical and health informatics
|July 2, 2024
概括
本研究引入了通用化知识蒸 (GKD),以改进跨领域医疗图像细分的轻量级网络. 通过从更大的网络转移知识,GKD提高了模型性能和概括性.
科学领域:
- 医疗成像医学成像
- 计算机视觉 计算机视觉
- 机器学习 机器学习
背景情况:
- 轻量级网络对于高效的医疗图像细分至关重要,但往往缺乏跨领域的概括性.
- 现有的方法很难弥合各种医疗数据集固有的领域差距.
研究的目的:
- 提出一个新的框架,通用化知识蒸 (GKD),用于增强跨领域医疗细分中的轻量级网络.
- 通过利用来自强大的教师网络的知识来提高轻量级模型的性能和概括能力.
主要方法:
- 开发了模型特定对齐网络 (MSAN) 来学习域不变表示.
- 引入了调整一致性培训 (ACT) 以优化MSAN.
- 拟议的双对比图蒸 (DCGD) 和域不变交叉蒸 (DICD) 用于知识传输.
- 使用Fréchet语义距离 (FSD) 来验证特征规范化.
主要成果:
- 在跨领域医疗细分任务上,GKD显著提高了轻量级网络的性能.
- MSAN有效地生成了域不变表示,减轻了域间隙.
- DCGD和DICD成功地提炼了可概括的知识,增强了轻量级模型.
- 对肝脏,视网膜血管和结肠镜数据集的实验证实了该方法的优越性.
结论:
- 拟议的GKD框架有效地提高了用于医疗图像细分的轻量级网络的泛化能力.
- MSAN和拟议的蒸方案为跨领域医疗图像分析提供了强大的解决方案.
- 这项工作为开发高效多功能医疗图像细分工具提供了有前途的方向.


