低级适应边缘AI的低级适应

科学领域:

• 人工智能的人工智能
• 机器学习 机器学习
• 计算机视觉 计算机视觉
• 边缘计算 边缘计算

背景情况:

• 边缘人工智能 (AI) 提供了变革性的应用,但在资源有限的设备上更新模型方面面临挑战.
• 边缘设备上的模型更新受到计算和通信能力的限制的阻碍.
• 现有的模型更新方法通常需要大量的计算和通信资源,这使得它们不适合边缘环境.

研究的目的:

• 引入一种新的方法,即Low-Rank Adaptation for Edge AI (LoRAE),旨在应对边缘设备上更新人工智能模型的挑战.
• 显著减少模型更新所需的可训练参数数量,从而最大限度地降低计算和通信开销.
• 评估LoRAE在边缘设备上的各种AI任务中保持或提高模型准确性的有效性.

主要方法:

• LoRAE利用卷积神经网络 (CNN) 重量矩阵的低级分解来减少更新参数的数量.
• 与传统的全参数更新相比,该方法将可训练参数减少到大约4%.
• 使用YOLOv8x模型对图像分类,物体检测和图像细分任务进行了实验.

主要成果:

• LoRAE实现了实质性的参数减少:图像分类为86.1%,对象检测为98.6%,图像分割为94.1%.
• 这些可训练参数的显著减少在不损害模型准确性,并在某些情况下提高模型准确性的情况下实现.
• 该方法有效地减轻了与边缘设备上更新AI模型相关的计算和通信挑战.

结论:

• 在资源有限的边缘环境中,LoRAE为更新人工智能模型提供了一个高效和精确的解决方案.
• 该方法展示了通过优化模型更新在边缘设备上部署先进AI功能的可行性.
• LoRAE具有很大的潜力,可以在各种应用中推进边缘AI的实际实施.