Un memristor de precisión mixta y un procesador de IA de cálculo en memoria SRAM

Área de la Ciencia:

• Ingeniería informática
• Hardware de inteligencia artificial
• Computación con eficiencia energética

Sus antecedentes:

• Los dispositivos de borde de IA requieren computación de alta precisión y eficiencia energética con un gran almacenamiento y tiempos de respuesta rápidos.
• Los enfoques convencionales de cálculo en memoria (CIM) que utilizan arquitecturas homogéneas (memristor-CIM, SRAM-CIM) o formatos de cálculo (integer, punto flotante) se enfrentan a compensaciones en eficiencia, almacenamiento, latencia y precisión.
• Las soluciones existentes luchan por satisfacer los exigentes requisitos de las aplicaciones modernas de IA en dispositivos de borde.

Objetivo del estudio:

• Desarrollar un procesador de borde CIM AI heterogéneo de precisión mixta que supere las limitaciones de los diseños homogéneos convencionales.
• Permitir el particionamiento de capas de red por capas granulares y por núcleos granulares entre diversas arquitecturas de CIM en chip y formatos de cálculo.
• Para lograr la optimización simultánea a través de la eficiencia energética, el almacenamiento, la latencia de despertar y la precisión de inferencia.

Principales métodos:

• Implementación de una arquitectura CIM heterogénea que integra el memristor-CIM, el SRAM-CIM y las unidades digitales.
• Desarrollo de un sistema flexible para la partición de las capas de red de IA por capas granulares y núcleos granulares.
• Soporte para el cálculo de precisión mixta (número entero y punto flotante) basado en el análisis de la sensibilidad al error.

Principales resultados:

• Se ha logrado una eficiencia energética elevada: 40,91 TFLOPS/W (ResNet-20) y 28,63 TFLOPS/W (MobileNet-v2).
• Se ha demostrado una baja degradación de la precisión: <0,45% tanto para ResNet-20 como para MobileNet-v2.
• Se alcanzó un tiempo de despertar-respuesta rápido de 373,52 μs.

Conclusiones:

• El procesador CIM heterogéneo de precisión mixta propuesto equilibra efectivamente la eficiencia energética, la precisión y la velocidad de los dispositivos de borde de IA.
• La partición de capas granulares / núcleos granulares ofrece una poderosa estrategia de optimización a nivel de hardware para diversas cargas de trabajo de IA.
• Este enfoque proporciona una solución rentable y lista para la fundición para la computación de borde de IA de próxima generación.