GSAformer:用于功能大脑网络分析的小组稀疏注意力转换器
Lina Zhou1, Xiao Jiang1, Mengxue Pang2
1School of Mathematics Science, Liaocheng University, Liaocheng Shandong, 252000, China.
概括
我们开发了GSAformer,这是一个新的变压器模型,用于使用功能性大脑网络 (FBNs) 诊断大脑疾病. 这种方法通过建模主体间关系和群体稀疏性来提高分类准确性,优于标准变压器.
科学领域:
- 神经科学是一个神经科学.
- 机器学习 机器学习
- 医疗成像医学成像
背景情况:
- 使用fMRI进行功能性大脑网络 (FBN) 分析对于分类神经和精神疾病至关重要.
- 传统方法往往将网络构建与分类分开,导致低于最佳的诊断模型.
- 现有的基于变压器的方法忽视了受试者之间共享的模式,限制了它们的有效性.
研究的目的:
- 提出GSAformer,一个以小组稀疏注意力为基础的模型,用于增强大脑障碍诊断.
- 将人口层面的先前知识和学科间的关系整合到一个统一的框架中.
- 提高大脑疾病分类模型的概括性和可解释性.
主要方法:
- 构建大脑连接矩阵,使用皮尔森的相关性对个体受试者.
- 在变压器架构中整合一个稀疏的前组,以建模主体间的关系.
- 在注意力矩阵中应用群体稀疏性,并使用最大平均差异 (MMD) 约束来保持一致性.
主要成果:
- 与标准变压器相比,GSAformer在三个公共数据集中表现出更好的分类性能,精度增加了3.8%,4.1%和14.7%.
- 该模型有效地捕捉了群体内的群体稀疏的拓结构.
- 该框架支持端到端的自适应学习,其计算复杂性与标准变压器相比较.
结论:
- 通过有效地建模学科间的关系和人口层面的先前知识,GSAformer在脑疾病分类方面取得了重大进展.
- 拟议的方法提高了分类准确性和模型可解释性.
- 这种方法代表了利用临床神经科学中先进的机器学习技术的有希望的方向.


