应用集群重复迷你批次训练方法来分类电脑图用于抓取和举起任务

科学领域:

• 人工智能的人工智能
• 机器学习 机器学习
• 深度学习 (Deep Learning) 是一种深度学习.

背景情况:

• 深度神经网络训练通常使用小批量随机梯度优化.
• 虽然大批量提供并行性,但较小的批量可以提高概括性和减少内存使用量.
• 对于训练复杂的,相关的群体特征来说,研究小批次特征至关重要.

研究的目的:

• 探索迷你批量大小和特征对深度神经网络训练的影响.
• 引入和评估一种新的培训方法,即集群重复小型批次培训 (CRMT).
• 为了提高培训稳定性和速度,在监督学习之前使用无监督集群.

主要方法:

• 使用无监督学习将数据分组成具有相似属性的组.
• 使用自组织地图 (SOM) 基于数据集标签进行数据聚类.
• 使用CRMT方法应用监督学习,在每个集群上顺序训练神经网络模型 (ANN).

主要成果:

• 通过CRMT方法,提高了培训效率和稳定性.
• 对EEG数据集的实验验证实了拟议的CRMT方法的有效性.
• 与现有的最先进的方法相比,CRMT方法取得了更高的性能.

结论:

• CRMT为优化深度神经网络训练提供了一个有前途的方法.
• 在小型批量培训之前对数据进行聚类可以带来更好的概括和性能.
• 该方法显示出在神经科学和信号处理等领域的应用潜力很大.