SpyShield: un mecanismo de defensa inspirado en Spyfall contra los ataques de envenenamiento en el aprendizaje...

Área de la Ciencia:

• Ciencias de la computación
• Inteligencia artificial
• Ciberseguridad

Sus antecedentes:

• Las arquitecturas centralizadas tradicionales de aprendizaje automático (ML) presentan riesgos para la privacidad de los datos.
• El aprendizaje federado (FL) permite la capacitación de modelos colaborativos sin compartir datos en bruto, pero sigue siendo vulnerable a los ataques de envenenamiento de datos y modelos.
• Las defensas FL actuales a menudo se basan en el análisis del lado del servidor, sin la cooperación del lado del cliente.

Objetivo del estudio:

• Proponer SpyShield, un nuevo mecanismo de defensa para el aprendizaje federado que aprovecha la cooperación del cliente para identificar clientes maliciosos.
• Para evaluar la robustez y el rendimiento de SpyShield contra varios ataques de envenenamiento de datos y modelos.
• Para comparar SpyShield con algoritmos de agregación de referencia bajo diferentes escenarios e intensidades de ataque.

Principales métodos:

• Desarrolló SpyShield, un mecanismo de defensa inspirado en el juego de deducción social Spyfall, que utiliza la cooperación del cliente para detectar participantes maliciosos.
• Evaluó el rendimiento de SpyShield en el conjunto de datos de FashionMNIST contra los algoritmos de agregación FedAvg, Krum, Multi-Krum, Median y Trimmed Mean.
• Probado contra el cambio de etiqueta cíclico, el cambio de etiqueta aleatorio y los ataques de peso aleatorio en escenarios con diferentes números de clientes maliciosos (3/30, 10/50, 40/100).

Principales resultados:

• SpyShield demostró un rendimiento superior y resiliencia en todos los entornos experimentales y tipos de ataque probados.
• Al menos una configuración de SpyShield logró consistentemente una mayor precisión que todos los algoritmos de referencia en cada escenario.
• El mecanismo propuesto identificó efectivamente a los clientes maliciosos, mejorando significativamente la seguridad del modelo en el aprendizaje federado.

Conclusiones:

• SpyShield ofrece un mecanismo de defensa robusto y generalizable para asegurar modelos de aprendizaje federados contra ataques de envenenamiento.
• La estrategia de cooperación entre clientes empleada por SpyShield va más allá del tradicional análisis centralizado del lado del servidor.
• Los hallazgos sugieren el potencial de estrategias de colaboración para mejorar la seguridad y la resiliencia de FL.