自动AMS:基于注意力的自动化多模式图形学习架构搜索
Raeed Al-Sabri1, Jianliang Gao1, Jiamin Chen1
1School of Computer Science and Engineering, Central South University, Changsha, 410083, Hunan, China.
概括
基于注意力的自动化多模态图形学习架构搜索 (AutoAMS) 框架自动化了高性能多模态图形学习架构的设计. 这种方法克服了手动设计和现有的图形神经架构搜索方法的局限性.
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 图形神经网络的神经网络
背景情况:
- 多模态注意力机制在多模态图表学习中是有效的,但依赖于手动设计.
- 由于搜索空间和目标有限,现有的图形神经架构搜索 (GNAS) 方法不能直接适用于多模态图形学习.
- 基于注意力的多模态图形学习 (AMGL) 架构的手动设计是劳动密集型的,需要专家知识.
研究的目的:
- 提出一个自动化框架,AutoAMS,用于设计最佳的AMGL架构.
- 解决手动设计的挑战和多式联运环境中现有的GNAS方法的局限性.
- 为了能够自动搜索有效的多模式注意力表示和其他AMGL组件.
主要方法:
- 开发了一个基于注意力的自动化多模态图形学习架构搜索 (AutoAMS) 框架.
- 设计了一个基于注意力的多模式 (AM) 搜索空间,有四个子空间用于联合优化.
- 引入了一个新的搜索目标,结合了无监督的多模式重建损失和任务特定损失.
主要成果:
- 自动AMS框架成功地自动化了AMGL架构的设计.
- 拟议的AM搜索空间有效地支持自动搜索多模式注意力和其他组件.
- 新的搜索目标捕捉了全球特征和多模式交互.
- 实验结果证明了AutoAMS在为多模式任务设计高性能AMGL架构方面的能力.
结论:
- 自动AMS为设计AMGL架构提供了有效的自动化解决方案.
- 该框架克服了手工设计和现有的GNAS方法的局限性.
- 自动AMS促进了高性能多模式学习系统的开发.
