使用预训练的基础模型减少训练数据:使用分段Anything模型对交通信号分割的案例研究
Sofia Henninger1, Maximilian Kellner1,2, Benedikt Rombach1
1Fraunhofer Institute for Physical Measurement Techniques IPM, 79110 Freiburg, Germany.
Journal of imaging
|September 27, 2024
概括
细分任何模型 (SAM) 显示了减少在语义细分任务中的培训数据需求的希望. 一个来自SAM的模型保持了准确性,即使数据少了95%,尽管SAM本身没有超过领先的模型.
科学领域:
- 计算机视觉 计算机视觉
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 预训练的基础模型为专业任务提供了可适应的解决方案.
- 细分任何模型 (SAM) 在语义细分方面表现出了显著的能力.
- 为模型培训收集数据往往是资源密集的.
研究的目的:
- 评估像SAM这样的基础模型是否可以减少对广泛培训数据的要求.
- 与已建立的模型相比,评估SAM在交通标志细分方面的表现.
- 分析减少培训数据对模型准确性的影响.
主要方法:
- 在语义细分任务中使用了五个不同的数据集.
- 专注于交通标志细分,用于比较分析.
- 将SAM的性能与领先的语义细分模型Mask R-CNN进行了比较.
主要成果:
- 无论培训数据量如何,SAM在交通标志细分方面表现并不优于Mask R-CNN.
- 来自SAM的知识蒸学生架构显示了可比的准确性.
- 从SAM衍生的模型即使训练了95%的数据,也保持了性能.
结论:
- 像SAM这样的基础模型可能不会在所有任务上普遍超过最先进的模型.
- 从SAM中提炼知识可以创建高效的模型,需要少得多的培训数据.
- 这种方法有可能降低计算机视觉应用中的数据收集成本.
