通过特征归因在心电图分析中评估机器学习解释的可靠性

科学领域:

• 人工智能的人工智能
• 生物医学信号处理
• 机器学习的可解释性

背景情况:

• 特征归属方法被广泛用于解释卷积神经网络 (CNN) 的决策.
• 这些方法主要提供局部解释,阻碍了对其全球意义的系统评估.
• 这种限制可以促进模型解释中的确认偏差,特别是在医疗保健等关键应用中.

研究的目的:

• 系统地调查心电图 (ECG) 时间序列分析中的特征归因方法的全球意义.
• 评估ECG信号的R峰,T波和P波组件上的各种特征归属技术的性能.
• 在不同的CNN架构和可解释性框架中评估这些方法.

主要方法:

• 使用模拟的心电图数据集,对R峰和T波特征进行控制的修改.
• 将多个特征归属技术应用于两个不同的CNN架构.
• 将评估扩展到现实世界的ECG数据,以评估实际性能和清晰度.

主要成果:

• 特性归属地图成功地在心电图信号中确定了诊断上重要的区域.
• 尽管突出了相关区域,但生成的归因地图显示出缺乏清晰度,并产生模糊的表示.
• 这种缺乏清晰度甚至在模拟的理想条件下也存在,表明当前方法的固有局限性.

结论:

• 当前的特征归属方法虽然能够定位重要的ECG信号组件,但无法提供足够的全球解释性.
• 特征归属图的固有模糊性限制了它们在精确的临床决策支持中的实际实用性.
• 需要进一步的研究来开发更强大的和可解释的特征归属技术,用于时间序列数据,如ECG.