Búsqueda de Arquitectura de Red Generativa Adversaria Diferenciable Guiada por Atención Eficiente y Distancia de...

Área de la Ciencia:

• Inteligencia Artificial
• Visión por Computadora

Sus antecedentes:

• La búsqueda de arquitectura de Red Generativa Adversaria (GAN) automatiza el diseño de redes de alto rendimiento.
• Los métodos de búsqueda diferenciables existentes, como DAMGAN, enfrentan limitaciones debido a módulos SENet ineficientes y pérdida adversarial para el entrenamiento de atención, lo que afecta la eficiencia de la búsqueda y la calidad de la arquitectura.

Objetivo del estudio:

• Proponer EAMGAN, un método mejorado de búsqueda de arquitectura GAN diferenciable.
• Mejorar la eficiencia de la búsqueda y la calidad de la arquitectura incorporando atención eficiente y guía de Distancia Fréchet Inception (FID).

Principales métodos:

• Se introdujo EAMGAN, utilizando el módulo de atención ECA-Net ligero para reemplazar los componentes ineficientes de SENet con convolución 1D para reducir parámetros.
• Se desacopló el entrenamiento de atención de la optimización adversarial y se empleó una función de pérdida personalizada basada en FID para la guía directa de la selección de arquitectura.
• Se evaluó el rendimiento en los conjuntos de datos CIFAR-10 y STL-10.

Principales resultados:

• EAMGAN superó a DAMGAN en CIFAR-10 con un mejor Inception Score (IS) y un FID más bajo.
• Logró resultados superiores con un costo de búsqueda reducido (0,08 días de GPU en comparación con los 0,09 días de GPU de DAMGAN).
• Demostró un rendimiento competitivo y transferibilidad en el conjunto de datos STL-10.

Conclusiones:

• EAMGAN ofrece un enfoque más eficiente y efectivo para la búsqueda de arquitectura GAN.
• El método propuesto mejora la calidad de la generación de imágenes y reduce la sobrecarga computacional.
• EAMGAN muestra potencial para aplicaciones más amplias en modelado generativo.