Sobre la Transferibilidad Adversarial de las "Conexiones de Salto" Generalizadas

Área de la Ciencia:

• Inteligencia Artificial
• Visión por Computadora
• Seguridad de Aprendizaje Automático

Sus antecedentes:

• Las conexiones de salto son cruciales para el rendimiento de los modelos de aprendizaje profundo en condiciones estándar.
• Sin embargo, su papel en escenarios adversariales sigue estando poco explorado.

Objetivo del estudio:

• Investigar el impacto de las conexiones de salto en la transferibilidad de ejemplos adversariales.
• Proponer un método novedoso, el Método de Gradiente de Salto (SGM), para explotar esta propiedad.

Principales métodos:

• Análisis del flujo de gradientes en arquitecturas tipo ResNet bajo ataques adversariales.
• Desarrollo del SGM para sesgar la retropropagación hacia los gradientes de las conexiones de salto.
• Extensión del SGM a diversas arquitecturas como Vision Transformers (ViTs) y modelos de Procesamiento del Lenguaje Natural (PLN).

Principales resultados:

• El SGM mejora significativamente la transferibilidad de los ejemplos adversariales en diversas familias de modelos (ResNets, Transformers, LLMs).
• El método sigue siendo eficaz contra ataques de conjunto, ataques dirigidos y modelos con defensas.
• La evidencia empírica y las explicaciones teóricas respaldan la eficacia del SGM.

Conclusiones:

• Las conexiones de salto presentan una vulnerabilidad que se puede explotar para generar ataques adversariales altamente transferibles.
• El SGM ofrece una técnica potente para ataques adversariales, destacando las vulnerabilidades arquitectónicas.
• Los hallazgos impulsan la investigación en el diseño de arquitecturas de modelos seguras.