Detección de objetos en SoC de borde de baja computación: un benchmark reproducible y directrices de implementación

Área de la Ciencia:

• Ciencias de la Computación
• Inteligencia Artificial
• Sistemas Embebidos

Sus antecedentes:

• La implementación de detectores de objetos de aprendizaje profundo en System-on-Chips (SoC) de IA de borde enfrenta desafíos debido a factores que van más allá de las calificaciones teóricas de cómputo.
• El rendimiento en el mundo real está influenciado por el diseño arquitectónico, el ancho de banda de la memoria y la contención a nivel de sistema.

Objetivo del estudio:

• Proporcionar un benchmark integral y reproducible de nueve variantes de detección de objetos YOLO en tres SoC Rockchip.
• Analizar el rendimiento en varias resoluciones de entrada, configuraciones de cómputo y condiciones operativas.

Principales métodos:

• Evaluación comparativa de nueve variantes YOLO en tres SoC Rockchip.
• Evaluación de métricas de rendimiento que incluyen latencia de inferencia, precisión de detección (mAP), FLOPs, recuento de parámetros y energía por inferencia.
• Pruebas bajo diferentes resoluciones de entrada, configuraciones de cómputo y condiciones multitarea.

Principales resultados:

• La latencia de inferencia mostró una correlación más fuerte con la precisión de la detección (mAP) que con los FLOPs o el recuento de parámetros.
• La escala de latencia con el tamaño de entrada se desvió de las predicciones teóricas debido a limitaciones en el ancho de banda de la memoria.
• La programación de NPU multinúcleo ofreció beneficios marginales debido a cuellos de botella de sincronización y memoria.
• El ancho de banda de la memoria fue el factor principal para la robustez bajo estrés multitarea.
• Se observaron diferencias significativas en la energía por inferencia entre los SoC.

Conclusiones:

• La selección de modelos consciente del hardware y las optimizaciones eficientes de la memoria son cruciales para aplicaciones de IA de borde en tiempo real.
• El rendimiento está dictado por una compleja interacción de la arquitectura del modelo, las capacidades del hardware y los factores a nivel de sistema, no solo los TOPS.
• El estudio proporciona información práctica para optimizar la implementación de la detección de objetos en plataformas integradas.