FeatureTrojan: Mejora de ataques de puerta trasera sigilosos y estables con envenenamiento de características e...

Área de la Ciencia:

• Inteligencia Artificial
• Seguridad de Aprendizaje Automático
• Redes Neuronales Profundas

Sus antecedentes:

• Las redes neuronales profundas (DNN) son susceptibles a ataques de puerta trasera, lo que compromete su integridad.
• Los ataques de puerta trasera existentes a menudo utilizan disparadores detectables y exhiben comportamientos inestables.
• Estas limitaciones dificultan la efectividad de las DNN en aplicaciones de seguridad crítica.

Objetivo del estudio:

• Introducir FeatureTrojan, un novedoso ataque de puerta trasera para DNN.
• Mejorar la sigilosidad y la estabilidad de los ataques de puerta trasera en DNN.
• Superar las limitaciones de las metodologías actuales de ataque de puerta trasera.

Principales métodos:

• FeatureTrojan incrusta disparadores dinámicos e imperceptibles para el ser humano dentro de las características del espacio latente de las entradas limpias.
• Utiliza modelos generativos de difusión preentrenados para crear entradas envenenadas con estos disparadores.
• El método ajusta finamente las DNN preentrenadas, inyectando puertas traseras mientras mantiene la proximidad de los parámetros a los modelos limpios.

Principales resultados:

• FeatureTrojan demuestra una sigilosidad y estabilidad significativamente mejoradas en los ataques de puerta trasera en DNN.
• Los experimentos muestran una mejora promedio de aproximadamente el 30,0% en la Tasa de Éxito del Ataque (ASR) contra varias defensas.
• El ataque resulta efectivo en múltiples conjuntos de datos y arquitecturas de DNN.

Conclusiones:

• FeatureTrojan representa un avance significativo en las técnicas de ataque de puerta trasera de DNN.
• El método propuesto ofrece un enfoque más robusto y sigiloso en comparación con los ataques existentes.
• La efectividad de FeatureTrojan resalta la necesidad de mecanismos de defensa más sofisticados contra amenazas avanzadas de puerta trasera.