Inferencia neuronal en la frontera de la energía, el espacio y el tiempo

Área de la Ciencia:

• Arquitectura de las computadoras
• Inteligencia artificial
• Ingeniería neuromórfica

Sus antecedentes:

• La computación tradicional separa los procesadores y la memoria, creando cuellos de botella.
• El hardware de red neuronal existente se enfrenta a limitaciones en la eficiencia energética y la velocidad.

Objetivo del estudio:

• Presentamos NorthPole, una nueva arquitectura de inferencia neuronal.
• Evaluar el rendimiento de NorthPole con respecto a las arquitecturas y el hardware establecidos.

Principales métodos:

• Diseñado por NorthPole con memoria y computación en el chip, inspirado en el cerebro.
• Implementó un diseño de computación espacial masivamente paralelo, de baja precisión y eficiente en energía.
• Benchmarked NorthPole en la clasificación de imágenes ResNet50 y las redes de detección Yolo-v4.

Principales resultados:

• NorthPole logró una eficiencia energética 25 veces mayor (FPS / watt) en comparación con una GPU.
• Se ha demostrado una eficiencia espacial 5 veces mayor (FPS/transistor) y una latencia 22 veces menor.
• Superó a las arquitecturas predominantes, incluidas las de los nodos de tecnología más avanzada.

Conclusiones:

• La arquitectura de computación de memoria integrada de NorthPole ofrece un rendimiento superior para la inferencia neuronal.
• Este diseño representa un avance significativo en el hardware de IA de alta velocidad y eficiencia energética.
• NorthPole establece un nuevo punto de referencia para la inferencia neuronal, superando las soluciones actuales de vanguardia.