在MR图像分类中对预训练对解释性能的影响进行基准测试
Marta Oliveira1, Rick Wilming2, Benedict Clark1
1Division 8.44, Physikalisch-Technische Bundesanstalt, Berlin, Germany.
Frontiers in artificial intelligence
|March 12, 2024
概括
转移学习显著影响复杂的医疗AI模型的解释性能. 这项研究使用一种新的MRI基准量化了解释质量,揭示了特定任务的预训练影响人工智能的解释性.
科学领域:
- 人工智能在医学中的应用
- 机器学习用于医学成像
- 可解释的人工智能 (XAI)
背景情况:
- 卷积神经网络 (CNN) 对于医疗预测任务至关重要,通常通过数据稀缺的转移学习来增强.
- 复杂的CNN模型缺乏透明度,推动了对可解释AI (XAI) 方法的需求.
- 对XAI绩效的定量评估和转移学习的影响仍未得到充分研究.
研究的目的:
- 提出一个基准数据集,用于量化医学AI中的解释性能.
- 调查转移学习对CNN模型解释质量的影响.
- 量化评估不同XAI方法的性能.
主要方法:
- 为磁共振成像 (MRI) 分类任务开发一个基准数据集.
- 应用各种XAI方法对CNN模型进行训练,并没有转移学习.
- 对基础真相数据进行解释性能量的定量评估.
主要成果:
- 在流行的XAI方法中存在显著的性能差异,即使对于正确分类的案例.
- 解释性能高度依赖于预训练任务和预训练CNN层的数量.
- 在考虑解释和分类性能之间的相关性之后,这些发现仍然存在.
结论:
- 转移学习的预培训策略极大地影响了医疗AI模型的可解释性.
- 拟议的基准可以在现实的医疗场景中对XAI方法进行客观评估.
- 仔细考虑预培训对于开发可靠和透明的医疗人工智能系统至关重要.
