NiCI-Pruning: Mejora de la poda de modelos de difusión mediante guía de imágenes limpias con ruido

Área de la Ciencia:

• Inteligencia Artificial
• Aprendizaje Automático
• Visión por Computadora

Sus antecedentes:

• Los modelos probabilísticos de difusión logran una generación de imágenes de alta calidad pero son computacionalmente costosos.
• Las técnicas existentes de compresión de modelos, como la poda, son menos efectivas para los modelos de difusión debido a su naturaleza iterativa.
• El despliegue de modelos de difusión con recursos limitados requiere estrategias de compresión eficientes.

Objetivo del estudio:

• Desarrollar un método de poda eficaz para comprimir modelos de difusión.
• Abordar el desafío de aplicar la poda a procesos de difusión iterativos.
• Permitir el uso de modelos de difusión en entornos con recursos limitados.

Principales métodos:

• Proponiendo NiCI-Pruning (Noise in Clean Image Pruning), un método que utiliza el ruido predicho de imágenes limpias para la pérdida de reconstrucción.
• Empleando la expansión de Taylor para una evaluación eficaz de la importancia de los parámetros dentro de la pérdida de reconstrucción.
• Introduciendo una estrategia de muestreo de intervalos con un esquema ponderado por pasos de tiempo para mitigar el ruido de los pasos de tiempo posteriores.

Principales resultados:

• NiCI-Pruning demuestra un rendimiento superior en la compresión de modelos de difusión.
• El método logra una reducción promedio del 30,4% en el aumento de la puntuación FID en cinco conjuntos de datos en comparación con los métodos del estado del arte.
• Los resultados experimentales validan la efectividad y superioridad del enfoque NiCI-Pruning propuesto.

Conclusiones:

• NiCI-Pruning ofrece una solución eficaz para comprimir modelos de difusión, haciéndolos adecuados para escenarios con recursos limitados.
• El novedoso enfoque adapta con éxito las técnicas de poda a la naturaleza iterativa de los modelos de difusión.
• La disponibilidad de código y modelos facilita la investigación y aplicación futuras.