在生理时间序列数据中基于概念的AI解释性:在电脑电图中检测异常的例子
Alexander Brenner1, Felix Knispel2, Florian P Fischer3
1Institute of Medical Informatics, University of Münster, Münster, Germany.
Computer methods and programs in biomedicine
|October 12, 2024
概括
使用概念激活矢量 (TCAV) 的测试提高了对电脑电图 (EEG) 数据的深度学习解释性. 这种方法在解释模型行为和检测生理时间序列中的数据偏差方面表现有前途.
科学领域:
- 人工智能的人工智能
- 生物医学工程 生物医学工程
- 计算神经科学是一种神经科学.
背景情况:
- 深度学习模型因其不透明性而面临临临床采用障碍.
- 基于特征的解释有局限性,这引发了人们对基于概念的可解释性的兴趣.
- 使用概念激活矢量 (TCAV) 测试使用人类可以理解的概念来解释模型行为.
研究的目的:
- 探索TCAV以在生理时间序列上构建可解释的深度学习模型.
- 将TCAV应用于电脑电图 (EEG) 数据中异常检测.
- 用元数据和信号特征研究概念定义策略.
主要方法:
- 使用XceptionTime模型进行多通道EEG数据分析.
- 通过元数据挖掘和频率提取开发了概念定义策略.
- 使用医院收集的EEG数据评估了方法的稳定性.
主要成果:
- TCAV得分与临床预期保持一致,已知的EEG病理概念比中性概念得分高.
- 概念生成策略产生了一致的结果.
- 证明了TCAV在EEG异常检测中的适用性.
结论:
- TCAV可以提高深度学习模型对多通道生理信号的解释性.
- 该方法显示了识别数据偏差的潜力.
- 需要进一步的研究来完善概念定义和验证临床相关性.
