在低功耗边缘AI系统中部署TinyML用于节能对象检测和通信.

科学领域:

• 计算机科学 计算机科学
• 人工智能的人工智能
• 嵌入式系统 嵌入式系统

背景情况:

• 边缘人工智能 (Edge AI) 能够为资源受限的微控制器 (MCU) 提供设备内处理.
• 在MCU上部署深度学习模型面临由于有限的内存,计算和能源的挑战.
• 实时,节能解决方案对于工业自动化,物联网和智能设备至关重要.

研究的目的:

• 开发一个实时物体检测系统,优化了MCU的能源效率和可扩展性.
• 将模型压缩技术,特别是量子化,与轻量级神经网络 (MobileNetV2) 集成在一起.
• 分析系统级的延迟,内存,能耗和模型大小之间的权衡.

主要方法:

• 利用MobileNetV2,一个轻量级的神经网络,并应用了8位后训练量化.
• 集成了一个摄像头和Wi-Fi模块,具有双模式TCP/UDP通信,用于数据传输.
• 在MCU平台上使用Visual Wake Words (VWW) 数据集进行系统级分析.

主要成果:

• 通过8位量化实现了3倍的存储减少,在1MB闪存/256KBSRAM预算 (286-536KB足迹) 中合适.
• 在设备上的推理延迟范围从每3.47到14.98毫秒,每推理的能量消耗为10.6-22.1 J.
• 量子化的MobileNet变体保持了准确性,UDP提供了比TCP更低的延迟,用于无线传输.

结论:

• 拟议的系统展示了一个实用且可扩展的解决方案,用于实时边缘人工智能在受约束的硬件上.
• 将TinyML模型与MCU集成,为自主,节能的边缘AI提供了基础.
• 在嵌入式系统中,依赖应用程序的协议选择 (TCP/UDP) 对于平衡嵌入式系统的可靠性和延迟至关重要.