Aprendizaje de la representación discriminante compacta a través del agrupamiento bilinear de bajo rango

Área de la Ciencia:

• Ciencias de la computación
• Aprendizaje automático
• Visión por computadora

Sus antecedentes:

• El agrupamiento bilinear genera características discriminativas, pero sufre de alta dimensionalidad y varianza, lo que lleva a un exceso de ajuste.
• El Análisis de Componentes Principales (PCA) es una técnica de reducción de dimensionalidad que se puede aplicar a características bilineas.
• Los métodos de agrupación bilineal de factorización existentes pueden no preservar de manera óptima la discriminabilidad de las características.

Objetivo del estudio:

• Abordar el exceso de ajuste en la agrupación bilineal reduciendo la dimensionalidad y la varianza de las características.
• Desarrollar un método matemáticamente fundamentado para la reducción de dimensiones en las características bilineas.
• Proponer un nuevo método de agrupación bilinear que sea computacionalmente eficiente y efectivo.

Principales métodos:

• Construido un problema de optimización de dos niveles combinando pérdida de clasificación y PCA.
• El PCA comprobado en características bilineas es equivalente al agrupamiento espectral, estableciendo un límite inferior para la reducción de dimensión.
• Proyección bilineal general de rango k (RK-GBP) propuesta para descomponer la matriz de proyección de PCA.
• Desarrolló el agrupamiento bilinear de factorización ortogonal de rango k (RK-OFBP) relajando el PCA al aprendizaje del diccionario para la eficiencia.

Principales resultados:

• Se demostró matemáticamente que los primeros componentes principales log2 ((C) capturan información discriminante para las clases C.
• Se ha demostrado que RK-OFBP reduce simultáneamente la dimensionalidad y la varianza de las características bilineas.
• Se ha logrado un rendimiento de clasificación comparable al de los métodos existentes (por ejemplo, B-CNN) utilizando características de dimensiones significativamente más bajas (por ejemplo, vectores de 32 dimensiones).

Conclusiones:

• El método RK-OFBP propuesto mitiga efectivamente el exceso de ajuste en la agrupación bilineal a través de la reducción de dimensión por principios.
• RK-OFBP ofrece un enfoque general y eficiente para la acumulación bilineal de factorización, superando los métodos anteriores en conjuntos de datos de granos finos y a gran escala.
• Este trabajo proporciona el primer límite inferior teórico para la reducción de dimensión en la agrupación bilineal y una implementación práctica de alto rendimiento.