在医学成像研究的深度学习算法中短路的风险

科学领域:

• 人工智能的人工智能
• 医疗成像医学成像
• 机器学习 机器学习

背景情况:

• 深度学习 (DL) 模型擅长检测微妙的模式,但它们的"黑子"性质给解释带来了挑战.
• 算法快捷方式,即DL模型利用误导性的数据模式,可以导致高精度而没有真正的临床有效性.

研究的目的:

• 在医学成像应用的深度学习模型中展示了捷径学习的容易和危险.
• 为了说明缓解捷径学习的复杂性和困难.
• 倡导对DL模型的更高的评估标准,声称从图像中发现新的医疗属性.

主要方法:

• 使用简单的ResNet18卷积神经网络 (CNN) 进行模型训练.
• 从膝盖X射线中训练模型来预测患者的饮食习惯 (避免再豆或酒消费).
• 研究了模型预测与混和潜在图像变量之间的关联.

主要成果:

• 模型仅基于膝盖X射线的饮食习惯,实现了显著的预测准确性 (AUC为0.63的再豆,0.73的酒).
• 模型性能与X射线图像中的混变量有关,而不是真正的医疗属性.
• 图像预处理技术未能消除快捷方式学习器件.

结论:

• 捷径学习很容易被DL模型获得,即使在医疗环境中,导致虚假的相关性.
• 鉴定到的快捷方式对标准的图像预处理非常强大,使缓解工作复杂化.
• 医疗成像中的AI模型需要更严格的验证值,以确保真正的临床实用性并避免误解.