CrackCLIP: 适应视觉语言模型用于弱监督的裂分割
Fengjiao Liang1, Qingyong Li1,2, Haomin Yu3
1Key Laboratory of Big Data & Artificial Intelligence in Transportation (Beijing Jiaotong University), Ministry of Education, Beijing 100044, China.
Entropy (Basel, Switzerland)
|February 26, 2025
概括
本研究介绍了CrackCLIP,用于使用最小标签进行高效的裂纹细分. 这种新的方法使用语言提示与视觉语言模型来改进结构完整性评估.
科学领域:
- 计算机视觉 计算机视觉
- 人工智能的人工智能
- 材料科学 材料科学 材料科学
背景情况:
- 弱监督的裂细分对于结构完整性评估至关重要.
- 像素级注释是劳动密集型的,对于现实世界的应用来说是不切实际的.
- 现有的方法在标签不确定性方面扎.
研究的目的:
- 介绍CrackCLIP,一种用于低监督裂细分的新方法.
- 为了利用语言提示和对比语言图像预训练 (CLIP) 模型.
- 为了增强语义上下文,并提高细分精度与最小的注释.
主要方法:
- 使用基于梯度的类激活地图来生成粗略的伪标签.
- 微调CLIP的冷图像编码器与线性适配器进行裂纹细分.
- 使用CLIP的冷文本编码器使用文本提示来提取语义特征.
- 将文本提示符功能与视觉补丁令牌功能进行比较,以便最终细分.
主要成果:
- 在基准数据集 (Crack500,CFD,DeepCrack) 上,CrackCLIP的表现优于现有的弱监管的裂细分方法.
- 适应的视觉语言模型显示了裂纹特征学习的强大潜力.
- 该框架显示了增强的性能和通用化能力.
结论:
- CrackCLIP有效地解决了裂细分中的标签不确定性.
- 语言提示的集成显著提高了细分性能.
- 拟议的方法为自动化结构健康监测提供了一个有希望的方向.


