交叉对角网络:用于图像分类的间接自我注意机制
Jiahang Lyu1, Rongxin Zou1, Qin Wan1
1School of Optoelectronic Engineering, Changchun University of Science and Technology, Changchun 130022, China.
Sensors (Basel, Switzerland)
|April 13, 2024
概括
交叉和对角网络 (CDNet) 通过捕获全球上下文和本地细节,提供高效的图像分类. 这种新的方法使用间接的自我注意力机制来提高性能,而无需高计算成本.
科学领域:
- 计算机视觉 计算机视觉
- 深度学习 (Deep Learning) 是一种深度学习.
- 图像分类图像分类 图像分类
背景情况:
- 完全卷积神经网络 (FCN) 在局部图像特征方面表现出色,但在全球上下文方面扎.
- 自我注意力机制捕捉全球背景,但是计算密集的.
- 现有的方法在平衡局部细节保存与全球上下文意识和计算效率方面存在局限性.
研究的目的:
- 引入交叉对角网络 (CDNet),用于高效的图像分类的创新架构.
- 解决FCN和自我注意机制在捕捉全球图像背景中的局限性.
- 为了提高计算效率,同时保持或提高分类性能.
主要方法:
- 建议采用新的"交叉和对角注意"机制的交叉和对角网络 (CDNet).
- 实施间接自我注意方法来建立远程像素依赖.
- 将注意力机制作为一个模块集成到卷积神经网络 (CNN) 中.
主要成果:
- CDNet有效地捕获全球图像信息,同时保留本地细节.
- 间接的自我注意机制显著提高了网络容量和计算效率.
- 在三个基准图像分类数据集上实现了最先进的性能.
结论:
- 通过捕捉全球背景,CDNet提供了一种高效和有效的图像分类解决方案.
- 拟议的间接自我注意机制提供了一个比传统方法更轻的计算替代方案.
- CDNet表现出卓越的性能和效率,使其成为计算机视觉的宝贵进步.
