更快的MLP高效的视觉网络,结合了注意力机制和波纹下采样
Chenhao Ma1, Xueyuan Liu2, Yong Cao1,3
1College of Big Data and Intelligence, Southwest Forestry University, Kunming, 650204, China.
Scientific reports
|February 15, 2025
概括
新的神经网络FasterMLP有效地将卷积神经网络 (CNN) 和多层感知器 (MLP) 结合起来,用于计算机视觉. 它实现了高精度和速度,非常适合实时应用.
科学领域:
- 计算机视觉 计算机视觉
- 深度学习架构 深度学习架构
- 神经网络的神经网络的神经网络
背景情况:
- 现有的模型整合了多层感知器 (MLP),卷积神经网络 (CNN) 和注意力机制,以提高计算机视觉性能.
- 资源受限和实时应用程序需要计算效率高但准确的模型.
研究的目的:
- 提出FasterMLP,一种新的轻量级神经网络架构.
- 为了实现计算机视觉任务的高计算效率和精度.
主要方法:
- 更快的MLP将CNN本地连接与MLP全球功能表示相结合.
- 包含卷积块注意模块,用于增强特征提取.
- 采用哈尔波段下采样,以实现高效的空间维度缩小.
主要成果:
- 更快的MLP-S在ImageNet-1K上实现了比MobileViT-XXS高3.9%的top-1精度,在GPU和CPU上实现了2倍和2.7倍的加速度.
- 在COCO上,FasterMLP-L的性能与FasterNet-L的性能相当,参数较少.
- 在城市景观上实现了81.7%的mIoU,超过了CCNet和DANet.
结论:
- 更快的MLP有效地平衡了计算效率和准确性.
- 适合在资源有限的实时环境中进行视觉感知,例如自动驾驶.
