密集的前MoE:一个密集的变压器基础模型与专家混合用于多任务大脑图像分析

科学领域:

• 神经成像是一种神经成像.
• 人工智能的人工智能
• 医学诊断 医学诊断 医学诊断

背景情况:

• 深度学习模型对于大脑图像分析至关重要,但通常是特定任务的.
• 开发用于各种神经成像任务的多功能基础模型仍然是一个挑战.

研究的目的:

• 提出DenseFormer-MoE,一个集密卷积网络,视觉转换器和专家组合的基础模型,用于多任务大脑成像分析.
• 通过面具自动编码器和自我监督的预训练来增强特征表示概括.
• 使用专家混合方法解决多任务学习优化冲突.

主要方法:

• 集成DenseNet和Vision Transformer,从sMRI中进行渐进的本地和全球特征学习.
• 蒙面的自动编码器和自我监督的学习,用于预训练基础模型.
• 专家混合 (MoE) 在多任务学习中进行动态的专家选择.

主要成果:

• 在预测大脑年龄方面,DenseFormer-MoE表现出有前途的表现.
• 该模型实现了多种脑疾病的有效诊断.
• 根据英国生物银行,ADNI和PPMI数据集进行评估,显示出具有竞争力的结果.

结论:

• 丹斯福尔默-MoE为各种大脑成像任务提供了一个强大的基础模型.
• 拟议的架构有效地处理神经成像的多任务学习.
• 这种方法为临床应用推进了结构性MRI的自动化分析.