提高微调CNN模型的分类准确性:超参数优化的影响
Mikolaj Wojciuk1, Zaneta Swiderska-Chadaj1, Krzysztof Siwek1
1Faculty of Electrical Engineering, Warsaw University of Technology, Warsaw, Poland.
Heliyon
|March 11, 2024
概括
使用转移学习优化卷积神经网络 (CNN) 的超参数,可以将分类精度提高高达6%. 仔细选择超参数和均衡的数据子集是有效的CNN训练的关键.
科学领域:
- 计算机科学 计算机科学
- 机器学习 机器学习
- 人工智能的人工智能
背景情况:
- 卷积神经网络 (CNN) 非常受欢迎,需要高效的超参数优化.
- 当前的方法往往缺乏关键超参数,最佳范围或数据子集优化使用指导.
研究的目的:
- 研究不同超参数优化方法和选择对微调的CNN模型的影响.
- 评估超参数的重要性和CNN训练的最佳范围.
- 探索使用数据子集进行超参数优化.
主要方法:
- 我们比较了四种超参数优化技术:网格搜索,随机搜索,贝叶斯优化和异步连续减半算法 (ASHA).
- 评估了超参数的重要性,并确定了最佳值范围.
- 评估了使用数据子集用于超参数调整的可行性.
主要成果:
- 超参数优化提高了CNN分类准确度高达6%.
- 数据子集中的类分布平衡对于最佳的超参数选择至关重要.
- 确定了CNN培训的关键超参数及其有效值范围.
结论:
- 超参数优化显著影响CNN性能,特别是在转移学习场景中.
- 优化的有效性高度依赖于具体的任务和数据集.
- 使用平衡数据子集进行优化是一个可行的和至关重要的策略.


