通过先进的自动化渐进式学习,高效地训练大视觉模型
概括
本研究引入了大型视觉模型 (LVM) 的自动化渐进式学习,大大降低了培训成本和时间. 自动Prog框架加速了ViT,扩散和自动回归模型等模型的预训练和微调,以提高性能.
科学领域:
- 计算机视觉 计算机视觉
- 机器学习 机器学习
- 人工智能的人工智能
背景情况:
- 像视觉变压器 (ViTs),扩散模型和视觉自回归模型这样的大型视觉模型 (LVM) 需要大量的计算资源,从而导致高的财务和环境成本.
- 有效的培训方法对于减轻现代LVM不断增加的资源需求至关重要.
- 渐进式学习是一种在培训期间逐步增加模型能力的策略,显示了提高效率的潜力.
研究的目的:
- 开发和自动化渐进式学习策略,以有效培训大视野模型 (LVMs).
- 减少与LVM预培训,转移学习和微调相关的计算成本和时间.
- 为各种 LVM 架构提出适用于各种 LVM 架构的全面可扩展框架.
主要方法:
- 提出了AutoProg-One,这是视觉转换器 (ViT) 前期培训的自动化渐进式学习方案,结合了势头增长 (MoGrow) 和一次性增长时间表搜索.
- 将AutoProg框架扩展为AutoProg-Zero,这是一个零射击的自动化渐进式学习方法,消除了对超级网络培训的需求.
- 引入了独特阶段标识符 (SID) 计划,以促进培训期间网络的无增长.
主要成果:
- 自动Prog在ImageNet上的ViT预训练加速了1.85×.
- 扩散模型和视觉自回归模型的加快微调,分别高达2.86×和1.89×.
- 在所有测试的LVM和培训场景中实现了可比或优越的绩效指标.
结论:
- 自动化渐进式学习为各种大型视觉模型的高效培训提供了强大而可扩展的解决方案.
- 自动Prog框架显著减少了培训时间和计算成本,而不会影响模型性能.
- 这种方法对各种计算机视觉任务具有广泛的适用性,促进更可持续的AI发展.
