Ataques adversarios basados en eventos crudos para redes neuronales con latencias configurables

Área de la Ciencia:

• Inteligencia artificial
• Visión por computadora
• Computación neuromórfica

Sus antecedentes:

• Las Redes Neurales Spiking (SNN) y los Sensores de Visión Dinámicos (DVS) proporcionan una computación eficiente en energía para los dispositivos de borde.
• La latencia de entrada en las RNS es crucial para el ahorro de energía, pero las vulnerabilidades de seguridad, especialmente los ataques adversos, son una preocupación creciente.
• Los ataques a flujos de eventos sin procesar con latencias configurables no se han explorado lo suficiente debido a la escasez de datos y los desafíos de optimización discreta.

Objetivo del estudio:

• Proponer un nuevo método de ataque adversario dirigido a flujos de eventos sin procesar en SNNs con latencias configurables.
• Para abordar los desafíos de la escasez y la optimización discreta en los ataques de flujo de eventos crudos.
• Mejorar la seguridad de los sistemas de inteligencia artificial de vanguardia con eficiencia energética.

Principales métodos:

• Desarrolló un método para suavizar la optimización mediante la conversión de picos binarios a valores continuos.
• Se introdujo una estrategia estocástica adaptativa para muestrear las latencias de ataque.
• Aplicación de la regularización para mantener la escasez y garantizar que las muestras adversas se asemejen a los datos en bruto mientras se aproximan a las etiquetas objetivo.

Principales resultados:

• El método propuesto supera significativamente a los enfoques existentes en las tasas de éxito de los ataques adversos (ASR) a través de varias latencias.
• Los experimentos con los conjuntos de datos N-MNIST, CIFAR10-DVS, N-Caltech-101 y Gesture-DVS demuestran una superioridad consistente.
• Los estudios de ablación confirman la eficacia de las técnicas propuestas y la influencia de la latencia en la generación de muestras adversarias.

Conclusiones:

• El nuevo método de ataque se dirige efectivamente a flujos de eventos sin procesar en SNNs con latencias configurables.
• El enfoque mejora la seguridad de los sistemas de visión basados en eventos contra la manipulación adversaria.
• Esta investigación abre nuevas vías para la comprensión y defensa contra los ataques a los sistemas neuromórficos.