Ataque discriminatorio adversarial a modelos de difusión de texto a imagen

Área de la Ciencia:

• Inteligencia Artificial
• Visión por Computadora
• Modelos Generativos

Sus antecedentes:

• Los modelos de difusión con conceptos borrados enfrentan desafíos para prevenir la generación de contenido No Seguro Para el Trabajo (NSFW).
• Los métodos de ataque existentes se centran en la similitud de imágenes, lo que no garantiza la reconstrucción exitosa de NSFW.

Objetivo del estudio:

• Proponer un método de ataque novedoso, el Ataque Discriminatorio Adversarial (ADAtk), para exponer vulnerabilidades en modelos de difusión con conceptos borrados.
• Abordar las limitaciones de los ataques existentes centrados en la generación adoptando un enfoque discriminatorio.

Principales métodos:

• ADAtk optimiza la probabilidad de generar contenido NSFW creando perturbaciones adversarias en el espacio latente del modelo.
• El método guía la reconstrucción de imágenes hacia una clase discriminatoria objetivo, con el objetivo de clasificarla como inapropiada.

Principales resultados:

• ADAtk logró una tasa de éxito superior al 90 % en la elusión de los mecanismos de seguridad internos actuales.
• El ataque expuso con éxito limitaciones críticas en las técnicas existentes de borrado de conceptos para modelos de difusión.

Conclusiones:

• ADAtk proporciona información crucial para mejorar la seguridad y la confiabilidad de los sistemas de generación de texto a imagen.
• Los hallazgos allanan el camino para el desarrollo de modelos de IA generativa más seguros y protocolos de seguridad robustos.