Aprendizaje eficiente de alta dimensión con redes de RBF gaussianas adaptativas

Área de la Ciencia:

• Aprendizaje automático
• Inteligencia artificial
• Ciencias computacionales

Sus antecedentes:

• Las redes neuronales de función radial (RBFNNs) ofrecen un modelado rápido y un aprendizaje eficiente.
• Los RBFNN se enfrentan a desafíos con datos de alta dimensión, incluida la activación ineficaz de la capa oculta y la estimación ineficaz del peso.
• Los métodos existentes luchan con el bajo flujo numérico y la afinación de parámetros en espacios de alta dimensión.

Objetivo del estudio:

• Abordar las limitaciones de los RBFNN en el procesamiento de datos de alta dimensión.
• Desarrollar nuevas técnicas para mejorar el rendimiento y la estabilidad numérica de RBFNN.
• Mejorar la eficiencia de la estimación del peso en modelos RBFNN de alta dimensión.

Principales métodos:

• Propuso una función de núcleo gaussiano adaptativa a la dimensionalidad (DAGKF) con un nuevo mecanismo de ajuste de ancho.
• Se introdujo un algoritmo de descenso de coordenadas de múltiples salidas (MOCD) para el cálculo paralelo en sistemas de múltiples salidas.
• Desarrolló el algoritmo MOCD residual conjunto (JRMOCD) que incorpora un criterio residual conjunto para la estimación del peso efectivo, con convergencia comprobada.

Principales resultados:

• El DAGKF mitiga las dificultades numéricas en espacios de alta dimensión.
• Los algoritmos MOCD y JRMOCD permiten el cálculo paralelo y una estimación de peso más efectiva, evitando el procesamiento simultáneo de matrices de características enteras.
• Los experimentos extensos confirmaron el rendimiento superior de los métodos propuestos, especialmente en entornos de alta dimensión.

Conclusiones:

• Los algoritmos DAGKF y JRMOCD desarrollados mejoran significativamente el rendimiento de RBFNN para datos de alta dimensión.
• Estos métodos ofrecen soluciones robustas a la inestabilidad numérica y la ineficiencia computacional en RBFNNs.
• Los hallazgos allanan el camino para una aplicación más efectiva de RBFNNs en tareas de aprendizaje automático complejas y de alta dimensión.