可解释的神经成像人工智能方法:常见工具的系统性故障,需要特定领域的验证,以及安全应用的建议

科学领域:

• 神经成像是一种神经成像.
• 人工智能的人工智能
• 机器学习 机器学习

背景情况:

• 深度学习模型越来越多地用于神经成像.
• 可解释的人工智能 (XAI) 方法对于可靠的模型解释至关重要.
• 目前的XAI方法缺乏严格的验证,导致神经成像中的潜在误解.

研究的目的:

• 进行第一个大规模,系统的XAI神经成像方法的比较.
• 开发和利用一个新的XAI验证框架,具有可验证的基础真相.
• 评估常用的XAI技术在结构性大脑MRI上的可靠性和准确性.

主要方法:

• 开发了一个新的XAI验证框架,使用约45,000个结构大脑MRI.
• 通过使用已知的信号源 (解剖特征,临床病变) 创建预测任务来建立基本真相.
• 进行了GradCAM,层级相关性传播和SmoothGrad的系统比较.

主要成果:

• 在神经成像数据中,GradCAM始终未能定位预测特征.
• 层级相关性传播产生了伪造的解释,表明与神经成像数据不相容.
• 基于梯度的简单方法SmoothGrad显示出一致的准确性和稳定性.

结论:

• 由于域不匹配,广泛使用的XAI方法,如GradCAM和LRP在神经成像中表现出系统性失败.
• 概念的简单性和较少的数据结构假设使SmoothGrad在神经成像方面更加强大.
• 在神经成像研究和实践中,需要对XAI方法进行特定领域的适应和验证.