MuST:多级变压器,包括层次注意力和TCN用于EEG解码

科学领域:

• 神经科学是一个神经科学.
• 机器学习 机器学习
• 信号处理 信号处理

背景情况:

• 脑电图 (EEG) 信号在个人和任务之间具有显著的时间变化.
• 现有的单任务EEG解码模型与这种固有的异质性作斗争,限制了它们对不同数据集的适用性.
• 各种任务之间的时间特征的差异对准确的EEG信号解码构成重大挑战.

研究的目的:

• 引入多级变压器 (MuST),这是一种新的深度学习架构,旨在动态学习不同时间尺度的EEG信号特征.
• 解决当前模型在处理EEG数据的时间异质性方面的局限性.
• 开发一种能够处理具有不同神经生理时间尺度的EEG信号的统一模型.

主要方法:

• MuST模型建立在卷积神经网络 (CNN) - 变压器架构的基础上.
• 它包含一个层次化的变压器结构,用于捕获全球依赖关系和多个规模的远程信息.
• 一个新的时间卷积网络 (TCN) 模块取代了标准的前网络 (FFN),以有效地捕获本地时间模式和短期依赖.

主要成果:

• 在五个公共EEG数据集中,MuST实现了91.69%的平均分类准确度,时间尺度有显著差异.
• 在相同的参数设置下,该模型在性能方面超过了基线EEGNet5.65%.
• 通过混合数据集培训,MuST成功地展示了EEG时间异质性的统一建模,包括发作检测和睡眠阶段分类.

结论:

• 多尺度变压器 (MuST) 架构有效地处理EEG时间异质性,优于现有的方法.
• MuST能够在单一模型中动态调和不同的神经生理时间表,这代表了EEG分析的突破.
• 这项工作验证了多尺度架构对于多样化和复杂的EEG解码任务的潜力.