一个多层次可解释的睡眠阶段评分系统,通过将专家的知识注入深度网络架构

科学领域:

• 人工智能的人工智能
• 神经科学是一个神经科学.
• 生物医学工程 生物医学工程

背景情况:

• 深度学习模型在信号处理中提供了效率,但缺乏可解释性,阻碍了医疗决策等高风险应用.
• 当前算法的"黑盒子"性质是AI在医疗保健中的临床采用的一个重要障碍.
• 可解释的人工智能对于建立信任和促进人工智能工具转化为现实世界的医疗应用至关重要.

研究的目的:

• 设计和开发一种可解释的深度学习系统,用于对脑电图 (EEG) 信号进行分类,以进行睡眠阶段评分.
• 通过创建一个透明的时间序列分析系统来解决人工智能的"黑子"问题.
• 为医疗决策中透明的人工智能系统奠定基础.

主要方法:

• 开发了一种新的可解释深度神经网络,采用基于内核的卷积层.
• 基于内核的层是使用人类专家对睡眠评分的多睡眠记录视觉分析的原则来设计的.
• 该系统的可解释性被评估在四个层面,从信号微观结构 (内核) 到宏观结构 (阶段过渡).

主要成果:

• 拟议的可解释深度学习系统在EEG睡眠阶段评分方面取得了优异的性能,与之前的研究相比.
• 系统的学习特征,通过训练有素的内核可视化,与人类专家使用的既定知识保持一致.
• 分析显示,人工智能的决策过程与专家衍生的睡眠评分原则之间存在一致性.

结论:

• 开发的可解释的深度学习系统成功地通过提高透明度进行睡眠阶段评分.
• 该系统的可解释性促进了对其决策过程的理解,与专家知识保持一致.
• 这项工作是朝着开发可靠和透明的医疗应用人工智能迈出的重要一步.