基准基准模型和参数高效微调用于医学成像中的预后预测
Filippo Ruffini1, Elena Mulero Ayllón2, Linlin Shen3
1Unit of Artificial Intelligence and Computer Systems, Department of Engineering, Università Campus Bio-Medico di Roma, Via Álvaro del Portillo, 21, Rome, 00128, Italy; Department of Diagnostics and Intervention, Radiation Physics, Biomedical Engineering, Umeå University, Umeå, 901 87, Sweden.
卷积神经网络 (CNN) 在低资源环境中为 COVID-19 预后从胸部X射线表现出色. 具有参数效率微调的基础模型 (FMs) 在有足够数据的情况下显示出有希望的结果,为AI在临床工作流程中提供指导.
科学领域:
- 医疗成像中的人工智能
- 机器学习用于预后预测预测.
- 转移学习策略的学习策略.
背景情况:
- 基础模型 (FMs) 显示了医学成像的潜力,但面临着数据稀缺和预后预测的阶级不平衡等挑战.
- 人工智能用于COVID-19结果预测的临床采用受到这些挑战的限制.
- 需要一个结构化的基准来比较AI策略在现实的约束下.
研究的目的:
- 为了对基础模型 (FMs) 的转移学习策略与 COVID-19 预后的卷积神经网络 (CNNs) 进行基准测试.
- 在数据稀缺和类不平衡的情况下,系统地比较微调方法 (完整,线性探测,参数效率).
- 为在医学成像分析的临床工作流程中部署AI提供经验指导.
主要方法:
- 利用了四个公共COVID-19胸部X射线数据集,采用不同的样本大小和阶级不平衡来预测死亡率,严重程度和ICU入院情况.
- 采用完整微调,线性探测和参数高效微调 (PEFT) 进行调整的CNN (预先训练的ImageNet) 和FM (预先训练的通用/生物医学).
- 在使用马修斯相关系数 (MCC) 和精确召回AUC (PR-AUC) 的全数据和少数射击制度中评估模型,采用交叉验证和类权重损失.
主要成果:
- 完全微调的CNN在小,不平衡的数据集上表现出强度.
- 使用PEFT (LoRA,BitFit) 的FM在更大的数据集上取得了竞争性结果,尽管性能因严重的类不平衡而下降.
- 在少数拍摄场景中,FMs表现出有限的概括性;线性探测提供了最稳定的性能.
结论:
- 没有单一的微调策略是使用医学成像预测COVID-19预后的普遍最佳.
- 在低资源的临床场景中,CNN仍然是可靠的选择.
- 当有足够的数据可用时,FM,特别是具有参数效率的方法,是有效的,指导AI部署策略.
更多相关视频
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
06:19Constructing and Visualizing Models using Mime-based Machine-learning Framework
Published on: July 22, 2025