Un enfoque sin datos para mitigar el olvido catastrófico en el aprendizaje incremental de clases federadas para...

Área de la Ciencia:

• Inteligencia Artificial
• Aprendizaje Automático
• Ciencias de la Computación

Sus antecedentes:

• Los modelos de aprendizaje profundo se enfrentan al olvido catastrófico al aprender nuevos datos.
• El aprendizaje federado (FL) exacerba este problema debido a los datos distribuidos y cambiantes.
• Las soluciones existentes para entornos centralizados no son directamente aplicables a las restricciones de privacidad y recursos de FL.

Objetivo del estudio:

• Presentar un marco novedoso para el aprendizaje incremental de clases federadas (FCIL).
• Mitigar el olvido catastrófico en FL sin comprometer la privacidad de los datos o la flexibilidad del usuario.
• Introducir un nuevo conjunto de datos, SuperImageNet, para evaluar FCIL.

Principales métodos:

• Un modelo generativo sintetiza distribuciones de datos pasadas para combatir el olvido.
• El modelo generativo se entrena en el lado del servidor utilizando métodos sin datos, preservando la privacidad del cliente.
• El marco admite la participación dinámica de clientes (unirse/salir) sin requerir que los clientes almacenen datos o modelos antiguos.

Principales resultados:

• El marco propuesto reduce significativamente el olvido catastrófico en el aprendizaje incremental de clases federadas.
• Los resultados experimentales demuestran mejoras sustanciales sobre las líneas de base existentes en múltiples conjuntos de datos.
• El conjunto de datos SuperImageNet proporciona un punto de referencia adaptado para FCIL.

Conclusiones:

• El marco desarrollado aborda eficazmente el olvido catastrófico en el aprendizaje incremental de clases federadas.
• El entrenamiento del modelo generativo sin datos y del lado del servidor garantiza la privacidad y la eficiencia.
• El marco ofrece una solución flexible y robusta para el aprendizaje continuo en entornos federados.