性能,可解释性和公平性在神经原型树的交叉点,用于胸部X射线病理检测:算法开发和验证研究
Hongbo Chen1, Myrtede Alfred1, Andrew D Brown2
1Department of Mechanical and Industrial Engineering, University of Toronto, Toronto, ON, Canada.
JMIR formative research
|December 5, 2024
概括
本研究介绍了用于胸部X射线 (CXR) 病理检测的神经原型树 (NPT) 分类器,提高了深度学习的透明度. NPT分类器表现出更好的性能和公平性,增加了可解释性,为临床环境提供了一个有前途的工具.
科学领域:
- 人工智能的人工智能
- 医疗成像医学成像
- 机器学习 机器学习
背景情况:
- 深度学习模型在胸部X射线 (CXR) 分析中实现了高精度,但缺乏透明度,阻碍了临床采用.
- 神经原型树 (NPT) 作为一个可解释的分类器,将深度学习的诊断能力与CXR病理检测的决策树可解释性相结合.
研究的目的:
- 评估神经原型树 (NPT) 分类器在CXR病理检测中的性能,可解释性和公平性.
- 检查这三个维度之间的相互作用,并强调NPT分类器的本地和全球解释.
主要方法:
- 使用胸部X射线14,CheXpert和MIMIC-CXR数据集进行训练.
- 与一个基线ResNet-152与五个NPT分类器进行了比较,分别具有不同的解释性级别.
- 使用线性回归分析测量性能 (ROC AUC),可解释性 (IC) 和公平性 (TPR平均差异).
主要成果:
- 随着可解释性的提高,NPT分类器的性能提高了,在数据集的特定IC级别上超过了ResNet-152.
- 较低的解释性 (IC 1级) 与较高的不公平性相关 (TPR平均差异),特别是在基于年龄的子组中.
- 在解释性和性能 (ROC AUC) 之间发现了显著的积极关系,在解释性和公平性 (平均TPR差异) 之间发现了负面关系.
结论:
- 在CXR病理检测中,NPT分类器提供了性能,可解释性和公平性之间的平衡.
- 研究结果为开发有效,可解释和公平的医学成像深度学习模型提供了洞察力.
- 该研究强调了透明AI在放射学中的潜在临床实用性.
