FEMBA:使用双向Mamba基础模型进行高效和可扩展的EEG分析
概括
我们开发了FEMBA,这是一个新的框架,用于高效的脑电图 (EEG) 分析. 这种双向状态空间模型提供了线性可扩展性,在临床和可穿戴应用中超过了长期EEG监测的变压器.
科学领域:
- 神经科学是一个神经科学.
- 人工智能的人工智能
- 生物医学工程 生物医学工程
背景情况:
- 准确的脑电图 (EEG) 分析对于长期的患者监测和诊断至关重要.
- 传统的深度学习模型,如变压器,由于二次复杂性而面临计算挑战,限制了它们在资源受限环境中的使用.
- 对于从临床诊断到可穿戴健康设备的应用,需要有效和可扩展的EEG分析方法.
研究的目的:
- 引入FEMBA (基础EEGMamba+双向架构),这是一个新的自我监督框架,用于高效的EEG分析.
- 使用双向状态空间建模,建立EEG分析效率的新基准.
- 为了证明FEMBA在临床应用和资源有限的可穿戴设备中的可行性.
主要方法:
- 开发了FEMBA,一个自主监督的框架,使用双向状态空间建模进行EEG分析.
- FEMBA表现出线性时间和内存复杂性,与变压器模型的二次复杂性形成鲜明对比.
- 在超过21000小时的未标记的EEG数据上训练了FEMBA,并在三个下游任务上微调了它.
主要成果:
- 与变压器模型相比,FEMBA的性能具有竞争力,计算成本显著降低.
- 在TUAB上达到81.82%的平衡精度 (0.8921 AUROC),在TUAR上达到0.949 AUROC.
- 一种FEMBA的7.8M参数变体证明了对资源有限的设备的有效性,使设备内EEG监控成为可能.
结论:
- FEMBA为EEG分析提供了可扩展和高效的解决方案,解决了传统深度学习模型的局限性.
- 该框架的效率和性能使其适合在临床环境和可穿戴技术中广泛采用.
- 通过持续的设备内EEG监测,FEMBA为改善患者护理铺平了道路,用于发作检测和人工物减少.


