在语义图像分割中的卷积神经网络的过器修剪
Clara I López-González1, Esther Gascó1, Fredy Barrientos-Espillco2
1Department of Software Engineering and Artificial Intelligence, Complutense University of Madrid, Madrid, 28040, Spain.
概括
本研究为卷积神经网络 (CNN) 引入了新的过器和层修剪方法,显著减少模型大小和计算负载,同时保持或提高准确性. 这些可解释的AI技术为资源有限的环境提供了高效的模型压缩.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 卷积神经网络 (CNN) 对实时应用至关重要,但需要大量资源.
- 现有的CNN压缩方法通常需要广泛的培训,并忽视数据的影响.
- 在边缘设备和实时系统上部署资源高效的人工智能至关重要.
研究的目的:
- 开发有效和可解释的方法来压缩卷积神经网络 (CNN).
- 调查数据对模型压缩和性能的影响.
- 介绍适用于各种CNN架构的新型修剪策略.
主要方法:
- 提出了两种使用主要组件分析 (PCA) 和下一个卷积影响度量的过器修剪方法.
- 专门为U-Net架构引入了一个层修剪方法.
- 实施了微调策略,以恢复修剪后的模型通用化.
- 开发了一种基于重要性分数分布的方法,使用平均标准偏差和影响度量.
主要成果:
- 在U-Net (98.7%和97.5%),DeepLabv3+ (46.5%和51.9%),SegNet (72.4%和83.6%) 和VGG-16 (86.5%和82.2%) 上实现了显著的参数和FLOP降低.
- 在所有测试模型和数据集中保持或提高准确性,包括U-Net.Net的0.35%增长.
- 在不同的CNN和语义细分任务中展示了裁剪策略的通用适用性.
结论:
- 开发的修剪方法有效地减少了CNN的复杂性,而不会影响准确性.
- 可解释的人工智能 (xAI) 背景为数据和模型性能之间的关系提供了洞察力.
- 这些技术为在资源有限的平台上部署高性能CNN提供了可行的解决方案.
