使用真实测试台探索基于智能手机的边缘人工智能推理

科学领域:

• 边缘的人工智能 (AI)
• 计算机视觉 (CV) 是指计算机视觉.
• 移动计算 移动计算

背景情况:

• 边缘人工智能由于可访问的预训练模型和人工智能框架而扩展.
• 深度学习 (DL) 模型对于实时计算机视觉任务,如对象识别至关重要.
• 现有的边缘人工智能平台通常依赖于云资源或同质的单板计算机 (SBC),对智能手机等游牧硬件的探索有限.

研究的目的:

• 调查基于智能手机的边缘人工智能的竞争力,以实时计算机视觉推断.
• 为了比较智能手机集群与边缘AI工作负载的SBC的性能.
• 评估边缘人工智能任务对智能手机电池寿命的影响.

主要方法:

• 在计算机视觉任务中使用了三种预训练DL模型.
• 采用了八个异质边缘节点:五个低端/中端智能手机和三个SBC.
• 通过使用用于电池驱动边缘计算测试的工具集在三个图像流处理场景中进行了实验.

主要成果:

• 在智能手机集群和SBC-only配置之间比较延迟和能源效率.
• 在电池驱动设置中测量了工作负载执行对智能手机电池水平的影响.
• 证明智能手机集群可以为边缘AI提供重要的计算资源.

结论:

• 边缘人工智能利用智能手机集群是实现实时性能的可行和有竞争力的方法.
• 智能手机集群可以增强边缘AI功能,支持其扩展到各种应用场景.
• 这项研究为智能手机作为边缘AI节点的实用性提供了经验证据.