通过自适应性注意力量子化变压器进行细粒度视觉分类
IEEE transactions on neural networks and learning systems
|December 17, 2025
概括
视觉变压器 (ViT) 模型可以通过自适应地选择区分特征来改进细粒度视觉分类 (FGVC). 我们的A2QTrans方法增强了注意力机制,使其专注于关键的图像区域,从而获得最先进的结果.
科学领域:
- 计算机视觉 计算机视觉
- 机器学习 机器学习
- 人工智能的人工智能
背景情况:
- 视觉转换器 (ViT) 在细粒度视觉分类 (FGVC) 中表现出色.
- 现有的ViT方法经常与关注点集中在非歧视性区域的注意力扎,稀释关键信号.
- 这就需要改进注意力机制,使FGVC更有效.
研究的目的:
- 为FGVC提出一个新的自适应注意力定量化变压器 (A2QTrans).
- 通过分析和优化注意力头部行为来增强特征选择.
- 在细粒度的视觉分类任务中实现最先进的性能.
主要方法:
- 引入了自适应量化选择 (AQS) 模块,通过注意力得分量化来动态选择歧视性特征.
- 采用直通估计器 (STE) 在AQS模块内进行离散优化,从而实现端到端的培训.
- 开发了一个背景消除 (BE) 模块,以改进对突出的对象的关注焦点,以及一个集成结果的动态混合优化 (DHO) 模块.
主要成果:
- 在四个具有挑战性的FGVC基准数据集中,A2QTrans表现出卓越的性能.
- 该方法在三种ViT变体上测试时获得了最先进的 (SOTA) 结果.
- 拟议的模块有效地过了不相关的信息,并将注意力集中在歧视性地区.
结论:
- 通过智能地管理注意力机制,A2QTrans为基于ViT的FGVC提供了显著的进步.
- 该方法能够选择关键的区分特征,从而提高了分类准确性.
- A2QTrans为增强视觉分类任务提供了一个强大的框架.
