人工智能种族检测模型在医学成像中的解释性,使用突出性方法

科学领域:

• 医学成像分析 医学成像分析
• 医疗保健中的人工智能
• 可解释的人工智能

背景情况:

• 深度神经网络 (DNN) 对于图像分类是有效的,但由于复杂性和不透明性,在医疗应用中存在挑战.
• 突出技术旨在通过突出重要图像区域来解释DNN决策,但它们在医疗环境中的可靠性仍在争论中.
• 在医学图像中,DNN已经证明了种族检测能力,这引发了人们对潜在偏见和服务不足人群中诊断不足的担忧.

研究的目的:

• 利用可解释性方法,从胸部X射线中调查基于DNN的种族检测中的微妙偏差.
• 评估八种最先进的偏差检测突出技术的有效性.
• 确定突出区域大小对医学图像分析中理解DNN行为的影响.

主要方法:

• 将八种最先进的可解释性方法应用于DNN模型,在胸部X射线上进行种族检测.
• 系统评估突出性地图在识别偏差方面的有效性.
• 分析突出区域大小与网络预测准确性和偏差之间的关系.

主要成果:

• 突出区域的大小是解释网络行为和检测偏差的一个关键因素.
• 当突出区域占据图像的30%时,只有Rise方法有效地定位突出区域,并展示了准确的种族预测和偏差操纵的潜力.
• 该研究强调,DNN可能依赖于低级图像特征进行预测,使偏差检测复杂化.

结论:

• 医学成像中的突出度地图需要谨慎应用,因为缺少地面真相,网络有可能利用表面图像特征.
• 可解释的AI方法对于发现和减轻用于临床决策的AI模型中的偏见至关重要.
• 需要进行进一步的研究,以开发可靠的方法来验证突出性地图,并确保人工智能驱动的医学诊断中的公平性.