一项关于系统改进变压器模型的研究,用于对象位置估计

科学领域:

• 计算机视觉 计算机视觉
• 深度学习 (Deep Learning) 是一种深度学习.
• 机器人技术 机器人技术 机器人技术

背景情况:

• 最初用于NLP的变压器架构,对于生成模型来说是多功能性的.
• 对象姿势估计对于机器人操纵和计算机视觉任务至关重要.
• 现有的变压器模型面临着高的GPU内存需求,特别是对于多个对象.

研究的目的:

• 开发基于变压器的深度学习模型,用于高效的对象姿势估计.
• 解决高GPU内存消耗问题,提高多对象场景的训练效率.
• 为了提高使用新型规范化技术的多对象姿势估计的性能.

主要方法:

• 实现了一个适用于对象姿势估计的仅编码器变压器架构.
• 优化了变压器的注意层,并采用了低级重量分解来减少参数和内存使用.
• 应用组查询注意力 (GQA) 和根平均平方 (RMS) 规范化以提高性能.

主要成果:

• 通过扩展矩阵维度,将GPU内存使用量减少到基线模型的2.5%.
• 在注意层中使用低级重量分解将模型重量参数降低了28%.
• 与基线模型相比,通过GQA和RMS正常化,旋转训练准确度提高了17%.

结论:

• 拟议的基于变压器的模型可显著减少对象姿势估计的内存足迹.
• 低级分解和先进的规范化技术的整合提高了效率和准确性.
• 这项工作为计算机视觉和机器人学中的多对象姿势估计提供了更具可扩展性和有效的解决方案.