使用深度神经网络和对抗性强度提高fMRI解码的可解释性

科学领域:

• 神经科学
• 机器学习
• 数据科学

背景情况:

• 深度神经网络 (DNN) 是分析复杂,高维数据的强大工具,但由于缺乏可解释性,通常被认为是"黑盒".
• 了解哪些输入特征驱动DNN预测对于认知神经科学和神经信息学的应用至关重要.
• 突出地图通常用于可视化输入特征的重要性,但现有的方法可能不可靠,对噪声敏感,并且难以评估.

研究的目的:

• 对DNN进行基于梯度的突出映射方法的审查.
• 引入一种新的对抗训练方法,以提高DNN对输入噪声的稳定性并提高可解释性.
• 提出和验证神经成像数据中的显著性地图解释性的定量评估程序.

主要方法:

• 对现有的基于梯度的突出地图技术进行审查.
• 对抗噪声强大的DNN培训方法的开发.
• 在合成数据和功能磁共振成像 (fMRI) 数据上测试的人类连接组项目 (HCP) 的两个定量评估程序的介绍.

主要成果:

• 通过不同的方法生成的突出度地图显示了可解释性的显著变化.
• 尽管可比解码性能,但DNN衍生的突出地图显示出比线性模型更高的解释性.
• 拟议的对抗性训练方法导致突出性地图在解释性方面超过了其他方法.

结论:

• 显著地图的解释性在不同的方法和模型类型之间有很大差异.
• 对抗训练提供了一种有前途的方法来提高神经成像中DNN的解释性.
• 开发的评估程序提供了一个可靠的框架来评估解码任务中的突出地图质量.