将MLP-Mixer和gMLP应用于人类活动识别
Takeru Miyoshi1,2, Makoto Koshino2, Hidetaka Nambo1
1Graduate School of National Science and Technology, Kanazawa University, Kanazawa 920-1192, Japan.
Sensors (Basel, Switzerland)
|January 25, 2025
概括
本研究探讨了优化人类活动识别 (HAR) 的深度学习模型. 研究结果显示,多层感知子 (MLP) 模型可以用更少的参数实现高效的性能,在计算效率方面超过卷积神经网络 (CNN).
科学领域:
- 人工智能的人工智能
- 机器学习 机器学习
- 传感器数据分析数据分析
背景情况:
- 像卷积神经网络 (CNN),变压器和多层感知器 (MLP) 这样的深度学习模型越来越多地用于人类活动识别 (HAR).
- 传感器数据模型的超参数通常是从图像处理任务中初始化,可能导致超大模型.
- 传感器数据的维度通常低于图像数据,这表明模型优化的潜力.
研究的目的:
- 调查降低超参数对基于MLP的HAR模型的性能和效率的影响.
- 在基于传感器的HAR任务中,将优化MLP模型的计算效率与CNN进行比较.
主要方法:
- 评估了两个基于MLP的模型:MLP-Mixer和gMLP.
- 从最初的建议中减少了MLP层中的超参数值.
- 使用传感器数据评估HAR任务的模型性能和计算效率.
主要成果:
- 基于MLP的模型的性能与参数数量呈正相关性.
- 在MLP模型中减少的参数数量并没有显著阻碍特定HAR任务的性能.
- 在测试的HAR应用中,基于MLP的模型显示出与代表性CNN相比更高的计算效率.
结论:
- 优化MLP模型的超参数可以为HAR带来更高效的计算解决方案.
- 对于基于传感器的HAR,MLP模型为CNN提供了一个有希望的替代方案,以减少资源需求平衡准确性.
