NiCI-修剪:通过噪声在清洁图像指导中增强扩散模型修剪

科学领域:

• 人工智能的人工智能
• 机器学习 机器学习
• 计算机视觉 计算机视觉

背景情况:

• 扩散概率模型可以实现高质量的图像生成,但计算成本昂贵.
• 由于它们的代性质,现有的模型压缩技术 (如修剪) 对扩散模型的有效性较低.
• 扩散模型的资源有限的部署需要高效的压缩策略.

研究的目的:

• 开发一种有效的修剪方法来压缩扩散模型.
• 为应对应用修剪对代扩散过程的挑战.
• 允许在资源有限的环境中使用扩散模型.

主要方法:

• 提出NiCI-Pruning (清洁图像修剪中的噪声),一种使用清洁图像预测的噪声用于重建损失的方法.
• 在重建损失中使用泰勒扩展进行有效的参数重要性评估.
• 引入一个间隔采样策略,采用时间步骤加权的方案,以减轻后来的时间步骤的噪音.

主要成果:

• 在压缩扩散模型方面,NiCI-Pruning表现出卓越的性能.
• 与最先进的方法相比,该方法在五个数据集中平均减少了30.4%的FID得分增加.
• 实验结果验证了拟议的NiCI-Pruning方法的有效性和优越性.

结论:

• NiCI-Pruning为压缩扩散模型提供了一种有效的解决方案,使其适用于资源有限的场景.
• 这种新的方法成功地将修剪技术适应了扩散模型的代性质.
• 代码和模型的可用性有助于进一步的研究和应用.