ARD-VAE: Una formulación estadística para encontrar las dimensiones latentes relevantes de los autoencoders...

Área de la Ciencia:

• Aprendizaje automático
• Aprendizaje profundo
• Modelado estadístico

Sus antecedentes:

• Los autoencoders variacionales (VAE) son Modelos Latentes Profundos de Variables (DLVM) populares para la modelización de la distribución de datos.
• La optimización de los VAE es más manejable que la de otros DLVM.
• El tamaño de la dimensión latente es un hiperparámetro crítico de VAE, que a menudo se determina empíricamente.

Objetivo del estudio:

• Proponer una formulación estadística para descubrir factores latentes relevantes en conjuntos de datos.
• Abordar el enfoque empírico de prueba y error para seleccionar las dimensiones latentes de VAE.
• Introducir el método de Detección Automática de Relevancia en el Autoencoder Variacional (ARD-VAE).

Principales métodos:

• Se implementó un prior jerárquico en el espacio latente del VAE.
• El prior jerárquico estima la varianza del eje latente utilizando datos codificados.
• Se reemplazó el prior fijo en la función objetivo del VAE con el prior jerárquico.

Principales resultados:

• El método ARD-VAE propuesto identifica eficazmente las dimensiones latentes relevantes.
• Demostró eficacia en múltiples conjuntos de datos de referencia.
• Se analizó el impacto de las dimensiones latentes identificadas en métricas como la puntuación FID y la desvinculación.

Conclusiones:

• ARD-VAE ofrece un enfoque estadísticamente fundamentado para determinar la dimensionalidad del espacio latente de VAE.
• El método automatiza el descubrimiento de factores explicativos dentro de los conjuntos de datos.
• ARD-VAE mejora el rendimiento de VAE optimizando las representaciones latentes.