Un método multiplicador de dirección alternante linealizado para problemas de completación de matrices federadas

Área de la Ciencia:

• Ciencias de la Computación
• Aprendizaje Automático
• Ciencia de Datos

Sus antecedentes:

• La completación de matrices (MC) es crucial para predecir datos faltantes en diversos campos.
• Los métodos tradicionales de MC enfrentan desafíos con el almacenamiento centralizado de datos, incluida la privacidad, la escalabilidad y la eficiencia.
• El aprendizaje federado (FL) ofrece una solución para el aprendizaje colaborativo en conjuntos de datos distribuidos sin compartir datos sin procesar.

Objetivo del estudio:

• Abordar los desafíos de la completación de matrices federadas (MC) en aplicaciones sensibles a la privacidad.
• Proponer un nuevo marco algorítmico, FedMC-ADMM, para resolver problemas de MC federadas.
• Proporcionar garantías teóricas para la MC federada con variables multiblock.

Principales métodos:

• Se desarrolló FedMC-ADMM, que combina el método de multiplicadores de dirección alternante (ADMM) con estrategias de coordenadas de bloque aleatorizadas y gradiente proximal.
• Diseñado para manejar problemas de optimización multiblock no convexos y no suaves inherentes a la MC federada.
• Se analizaron las propiedades teóricas de convergencia, estableciendo la convergencia subseqüencial y una tasa de convergencia de O(K^{-1/2}).

Principales resultados:

• FedMC-ADMM demuestra convergencia subsecuencial con una complejidad de comunicación de O(epsilon^{-2}).
• El algoritmo maneja eficazmente problemas de optimización multiblock no convexos y no suaves.
• Experimentos exhaustivos en los conjuntos de datos MovieLens y Netflix muestran que FedMC-ADMM supera a los métodos existentes en velocidad de convergencia y precisión.

Conclusiones:

• FedMC-ADMM ofrece una solución eficiente y privada para la completación de matrices federadas.
• Este trabajo proporciona las primeras garantías teóricas para la MC federada con variables multiblock.
• El método propuesto muestra mejoras significativas en el rendimiento para aplicaciones del mundo real.