MAT:混合注意力转移从多个变压器用于医疗任务

科学领域:

• 计算机视觉 计算机视觉
• 人工智能的人工智能
• 医疗成像医学成像

背景情况:

• 变压器对于图像分析非常强大,但需要大量的数据集.
• 医疗人工智能经常面临有限的数据可用性的挑战.

研究的目的:

• 为医疗成像中的变压器引入一种新的多源转移学习方法.
• 为应对医疗人工智能任务中有限数据的挑战.

主要方法:

• 拟议的混合注意力转移 (MAT),一种专为变压器设计的方法.
• MAT使用了混合注意层,具有令牌级的路由和融合,以及序列级的对齐注意.
• 它可以从多个源变压器转移知识,以针对医疗任务.

主要成果:

• 在三个医疗场景中证明了MAT的有效性:噪音标记,类不平衡和细粒度任务.
• MAT成功地利用和合并来自多个来源的知识,在令牌和层级.
• 在数据有限的情况下,在目标医疗任务上取得了更好的表现.

结论:

• MAT是第一个专门针对医疗AI中的变压器的多源转移学习方法.
• 拟议的方法可以在数据稀缺的医学成像应用中提高变压器的性能.
• 在具有挑战性的医疗场景中,MAT为改进AI提供了可行的解决方案.