优化TinyML,通过变压器和Mamba模型的量子化和蒸,以在边缘设备上进行室内定位
Thanaphon Suwannaphong1, Ferdian Jovan2, Ian Craddock3
1School of Engineering Mathematics and Technology, University of Bristol, Bristol, UK. aloe.th.suwannaphong@bristol.ac.uk.
Scientific reports
|March 25, 2025
概括
本研究介绍了TinyML模型,用于边缘设备上的设备内室内定位. 这些型号为医疗监控等应用提供了更长的电池寿命,隐私和更短的延迟时间.
科学领域:
- 边缘计算 边缘计算
- 机器学习 机器学习
- 室内定位局部化 室内定位局部化
背景情况:
- 传统的室内本地化依赖于集中处理,导致隐私和延迟问题.
- 边缘设备,特别是可穿戴设备,需要高效的解决方案来处理设备上的数据.
研究的目的:
- 开发和评估小型,高效的机器学习模型 (TinyML),用于设备内室内定位.
- 探索模型压缩技术,在资源受限的微控制器 (MCU) 上部署先进模型.
主要方法:
- 利用模型压缩技术,如量化和知识蒸.
- 调整了一个最先进的变压器模型,并提出了一个基于Mamba的紧架构.
- 在具有有限RAM限制的低功耗MCU上评估模型 (例如64KB和32KB).
主要成果:
- 一个量子化变压器模型在64KB的RAM限制内实现了尺寸和精度之间的平衡.
- 一个紧的Mamba模型在没有压缩的情况下在32KB的RAM设备上表现出强的性能.
- 在低功耗的MCU上成功部署了先进的室内定位模型.
结论:
- TinyML模型可以在资源受限的边缘设备上进行高级室内本地化.
- 这些模型为医疗保健应用提供了显著的好处,包括增强隐私,减少延迟和降低成本.
