BOBA: Aprendizaje federado bizantino-robusto con etiqueta de inclinación

Área de la Ciencia:

• Aprendizaje automático
• Sistemas distribuidos
• Ciberseguridad

Sus antecedentes:

• El aprendizaje federado (FL) generalmente asume datos independientes e idénticamente distribuidos (IID) en todos los clientes.
• Las reglas de agregación robustas existentes (AGR) a menudo están diseñadas para configuraciones de IID y luchan con datos que no son de IID, específicamente el sesgo de etiquetas.
• La inclinación de la etiqueta, donde los clientes poseen datos de solo unas pocas clases, presenta desafíos como el sesgo de selección y una mayor vulnerabilidad a los ataques bizantinos en Florida.

Objetivo del estudio:

• Desarrollar un método de agregación robusto para el aprendizaje federado bajo distribuciones de datos no identificadas por etiquetas.
• Para abordar el sesgo de selección y la mayor vulnerabilidad a los ataques bizantinos inherentes a los AGR actuales dentro de los entornos no IID.
• Proponer un enfoque eficiente y teóricamente sólido que mejore el rendimiento del modelo y la equidad en todas las clases de datos.

Principales métodos:

• Proponemos BOBA (agregación con conciencia bizantina equilibrada y optimizada), un método de agregación eficiente en dos etapas.
• BOBA está diseñado para mitigar el sesgo de selección y mejorar la robustez contra los adversarios bizantinos en el aprendizaje federado no IID.
• El análisis teórico confirma la convergencia de BOBA con los límites de error óptimos.

Principales resultados:

• Las evaluaciones empíricas muestran que BOBA reduce significativamente las caídas de rendimiento para las clases subrepresentadas causadas por el sesgo de la etiqueta.
• BOBA demuestra una robustez superior contra los ataques bizantinos en comparación con los AGR de última generación en entornos no IID.
• El método logra una agregación imparcial y mantiene una alta precisión en diversos conjuntos de datos y modelos.

Conclusiones:

• BOBA aborda efectivamente los desafíos de la inclinación de las etiquetas y los ataques bizantinos en el aprendizaje federado.
• El método propuesto ofrece una solución práctica y eficiente para construir modelos federados más sólidos y justos.
• El trabajo futuro puede explorar extensiones de BOBA a otras formas de heterogeneidad de datos.