MSG: robo de datos de redes neuronales recortadas a través de la guía de escasez maliciosa

Área de la Ciencia:

• Seguridad del aprendizaje automático
• Privacidad de los datos
• Aprendizaje automático adversario

Sus antecedentes:

• Las plataformas de aprendizaje automático en la nube plantean preocupaciones de privacidad.
• Los ataques de codificación de valores de correlación (CVEA) incorporan datos de entrenamiento en los parámetros del modelo.
• Las técnicas de poda de modelos pueden reducir la efectividad de tales ataques.

Objetivo del estudio:

• Demostrar el impacto de la poda del modelo en el CVEA.
• Proponer un nuevo ataque de codificación de datos resistente a la poda.
• Para mejorar el sigilo de los ataques de extracción de datos.

Principales métodos:

• Evaluación empírica de las técnicas de poda de modelos comunes con respecto a la CVEA.
• Desarrollo de una guía de escasez maliciosa (MSG, por sus siglas en inglés) para la incorporación de datos.
• Integración de la transferencia de conocimientos para mantener la precisión del modelo después de la poda.

Principales resultados:

• La poda del modelo reduce significativamente la eficacia de la CVEA.
• El glutamato monosódico incorpora con éxito los datos y resiste la poda.
• Los modelos codificados por MSG mantienen una alta precisión después de la poda debido a la transferencia de conocimientos.

Conclusiones:

• MSG ofrece un método robusto para ataques de extracción de datos, incluso contra modelos recortados.
• La transferencia de conocimiento mejora la discreción de la extracción de datos.
• Esta investigación pone de relieve nuevas vulnerabilidades en el despliegue de modelos seguros.