Redes neuronales físicas profundas entrenadas con propagación inversa

Área de la Ciencia:

• Inteligencia artificial
• Ciencias de los materiales
• La física

Sus antecedentes:

• Los modelos de aprendizaje profundo son esenciales en la ciencia, pero se enfrentan a límites de escalabilidad debido a las altas demandas de energía.
• Los aceleradores de aprendizaje profundo actuales se centran principalmente en la inferencia de eficiencia energética, no en la capacitación de hardware no convencional.
• Un obstáculo importante es la imposibilidad de aplicar la retropropagación para entrenar nuevo hardware físico in situ.

Objetivo del estudio:

• Introducir un algoritmo híbrido, entrenamiento consciente de la física, para permitir la propagación hacia atrás para entrenar sistemas físicos.
• Demostrar el entrenamiento de redes neuronales físicas profundas utilizando sustratos físicos controlables.
• Mostrar la universalidad del enfoque a través de la óptica, la mecánica y la electrónica.

Principales métodos:

• Desarrolló un algoritmo híbrido in situ llamado entrenamiento consciente de la física.
• Propagación inversa aplicada para entrenar redes neuronales físicas profundas compuestas por sistemas físicos controlables.
• Utilizó diversos sustratos físicos que incluyen óptica, mecánica y electrónica.

Principales resultados:

• Entrenó con éxito diversas redes neuronales físicas utilizando entrenamiento consciente de la física.
• Se han demostrado tareas experimentales de clasificación de audio e imágenes con estas redes neuronales físicas.
• Demostró la combinación de la escalabilidad de la retropropagación con la mitigación del ruido del algoritmo in situ.

Conclusiones:

• El entrenamiento consciente de la física permite el uso de la retropropagación para entrenar redes neuronales físicas.
• Las redes neuronales físicas ofrecen el potencial para un aprendizaje automático más rápido y eficiente.
• Este enfoque puede impregnar a los sistemas físicos con funcionalidades diseñadas automáticamente para diversas aplicaciones.