Protocolo de agregación de distribución generalizada para la heterogeneidad estadística federada

Área de la Ciencia:

• La inteligencia artificial es inteligencia artificial.
• Aprendizaje automático Aprendizaje automático.
• Los sistemas distribuidos son sistemas distribuidos.

Sus antecedentes:

• La heterogeneidad federada, que abarca disparidades de datos, modelos y comunicaciones, plantea desafíos en el aprendizaje federado.
• La heterogeneidad estadística a menudo resulta en una agregación ineficaz, lo que lleva a una mala generalización y pesos de modelo sesgados.

Objetivo del estudio:

• Para abordar la degradación del rendimiento causada por la heterogeneidad federada.
• Desarrollar una nueva estrategia de agregación que tenga en cuenta los desacuerdos vinculados a la generalización.

Principales métodos:

• Proponer un nuevo protocolo de agregación de ponderación basado en el análisis de robustez distributiva.
• Estimación de los límites superior e inferior del momento de origen de segundo orden de las distribuciones desplazadas para modelos locales.
• Utilizando desacuerdos limitados como proporciones de agregación para pesos de modelo.

Principales resultados:

• El protocolo de agregación propuesto mejora significativamente el rendimiento de los algoritmos de aprendizaje federados.
• Mejoras demostradas en varios algoritmos de aprendizaje federados representativos utilizando conjuntos de datos de referencia.
• El método mitiga efectivamente los problemas que surgen de la heterogeneidad estadística.

Conclusiones:

• El nuevo protocolo de agregación de ponderación ofrece una solución robusta a la heterogeneidad federada.
• Este enfoque mejora el rendimiento de generalización y la estabilidad de los modelos de aprendizaje federados.
• Los hallazgos proporcionan una nueva dirección para diseñar estrategias de agregación en entornos federados heterogéneos.