GraphGuard: Un enfoque adaptativo para restaurar la precisión en GNNs comprometidos por la puerta trasera

Área de la Ciencia:

• Inteligencia artificial
• Seguridad del aprendizaje automático

Sus antecedentes:

• Los ataques de puerta trasera amenazan los modelos de aprendizaje automático, especialmente las redes neuronales de gráficos (GNNs).
• Las defensas existentes a menudo se centran en la detección en lugar de la restauración precisa del rendimiento del modelo.
• La estructura compleja de los datos de los gráficos complica las estrategias de defensa de GNN.

Objetivo del estudio:

• Desarrollar un método para restaurar la precisión original de los GNN comprometidos por ataques de puerta trasera.
• Mejorar la resiliencia de GNN frente a factores desencadenantes ocultos y a insumos envenenados.
• Mejorar la interpretación de la toma de decisiones de GNN después del ataque.

Principales métodos:

• Combinando filtrado avanzado para eliminar puntos de datos sospechosos y aumento para fortalecer las GNN contra los disparadores.
• Implementación de un marco adaptativo para equilibrar el filtrado y el aumento basado en la gravedad del ataque y la sensibilidad del modelo.
• Integración de técnicas de IA explicable (XAI) para la detección y comprensión transparentes de los desencadenantes de la puerta trasera.

Principales resultados:

• Logró una restauración de precisión promedio del 97-99% en varios escenarios de ataque de puerta trasera.
• Se ha demostrado una reducción efectiva de los falsos positivos y negativos en la detección de puertas traseras.
• Mejora de la integridad y el rendimiento de GNN en presencia de ataques sofisticados.

Conclusiones:

• El método propuesto ofrece una solución eficaz para restaurar la precisión de GNN después de ataques de puerta trasera.
• La estrategia de filtrado y aumento adaptativo mejora significativamente la resiliencia del modelo.
• La integración de XAI mejora la transparencia y la confianza en la seguridad de GNN.