VQ-FedDiff: algoritmo de aprendizaje federado de modelos de difusión con condicionamiento cuantizado vectorial específico del cliente

Área de la Ciencia:

• Inteligencia artificial
• Aprendizaje automático
• Visión por computadora

Sus antecedentes:

• Los modelos generativos como los DDPM crean imágenes realistas pero requieren datos sensibles.
• El aprendizaje federado (FL) capacita a los modelos en datos descentralizados mientras preserva la privacidad.
• Los métodos FL existentes para modelos generativos a menudo se centran en GAN, no en DDPM.

Objetivo del estudio:

• Proponer un nuevo algoritmo para la formación de modelos probabilísticos de difusión (DDPM) dentro de marcos de aprendizaje federados (FL).
• Permitir la generación de imágenes sintéticas de alta calidad a partir de conjuntos de datos sensibles y descentralizados, garantizando al mismo tiempo la privacidad de los datos.
• Desarrollar un enfoque personalizado para la formación de modelos de difusión que mantenga la seguridad de los datos.

Principales métodos:

• Se introdujo VQ-FedDiff, un nuevo algoritmo diseñado específicamente para la capacitación de DDPM en entornos FL.
• Centrado en la formación de modelos personalizados para mejorar la calidad de la imagen (FID) y mantener la privacidad de los datos.
• Evaluación del rendimiento de los ajustes de datos independientes e idénticamente distribuidos (IID) y no IID.

Principales resultados:

• VQ-FedDiff demostró un rendimiento de vanguardia en el aprendizaje federado de modelos de difusión.
• Generación de imágenes de alta calidad, competitivas con modelos entrenados localmente, en conjuntos de datos fotorrealistas y médicos.
• Preservación efectiva de la privacidad de los datos en escenarios de aprendizaje descentralizado.

Conclusiones:

• Los modelos de difusión se pueden entrenar de manera eficiente en datos descentralizados y sensibles utilizando el algoritmo VQ-FedDiff propuesto.
• VQ-FedDiff ofrece una solución de preservación de la privacidad para la generación de imágenes sintéticas de alta calidad en entornos FL.
• El método muestra un potencial significativo para aplicaciones en ámbitos sensibles como la salud y las finanzas.