通过可转移的注意力头修剪在视觉转换器中的轻量级植物表型特征提取
Yongsheng Xie1, Xiaoxiao Zeng2, Rifeng Wang2
1School of Artificial Intelligence and Center for Network and Educational Technology, Guangxi Science and Technology University, Laibin, China.
Frontiers in plant science
|March 2, 2026
概括
我们开发了一种轻量级的多头自我注意力 (MHSA) 机制,用于高效的植物表型. 这种方法使用跨物种转移学习和头部修剪来减少40%的计算,而不会失去准确性.
科学领域:
- 计算机视觉 计算机视觉
- 机器学习 机器学习
- 植物科学 植物科学
背景情况:
- 视觉转换器 (ViTs) 面临着注意力机制具有高维度的挑战,导致冗余计算.
- 在各种物种中对植物表型特征提取进行概括,需要有效的模型来最大限度地降低计算负载.
研究的目的:
- 为高效的植物表型特征提取提出一个轻量级的多头自我注意 (MHSA) 机制.
- 通过转移学习和动态头部修剪,提高跨植物物种的模型效率和概括能力.
主要方法:
- 开发了可转移的注意力头部对齐 (TAHA) 框架,包括预训练,跨物种对齐 (域对齐损失) 和基于可转移性得分的头部修剪.
- 集成修剪的MHSA模块与标准的变压器骨干一起部署在边缘设备上.
- 在边缘硬件 (Raspberry Pi 4,NVIDIA Jetson Nano) 和GPU上进行了实验.
主要成果:
- 实现了与全头模型可比的准确性,同时将计算成本降低了高达40% (例如,在Raspberry Pi 4上推断延迟14.1毫秒).
- 在资源有限的边缘设备上展示了高效的部署.
- 识别了泛化极限,在遗传学上遥远的物种转移 (Arabidopsis →松树) 中,F1评分下降了7.2%.
结论:
- 拟议的方法为植物表型化提供了性能和效率之间的平衡妥协.
- 在计算限制的环境中实现可扩展的植物表型.
- 通过逐步适应新物种而没有完全重新培训,促进实际农业应用.
