在碎形预训练视觉转换器上分类微化石放射性物质
Kazuhide Mimura1, Takuya Itaki2,3, Hirokatsu Kataoka4,5
1Geological Survey of Japan, National Institute of Advanced Industrial Science and Technology, 1-1-1 Higashi, Tsukuba, Ibaraki, 305-8567, Japan. kaz-mimura@aist.go.jp.
Scientific reports
|March 6, 2025
概括
深度学习,包括视觉转换器 (ViT) 和公式驱动的监督学习 (FDSL),显示了地质图像分类的前景. 与传统模型相比,这些方法在微化石分类中取得了更高的精度.
科学领域:
- 地质科学是地球科学.
- 计算机科学 计算机科学
- 人工智能的人工智能
背景情况:
- 深度学习,特别是图像分类,已经迅速发展,但在地质应用方面落后.
- 卷积神经网络 (CNN) 是常见的,但视觉转换器 (ViT) 提供了一个有前途的替代架构.
- 公式驱动监督学习 (FDSL) 使用生成的图像进行预训练,潜在地提高模型性能.
研究的目的:
- 评估视觉转换器 (ViT) 和公式驱动监督学习 (FDSL) 对于微化石图像分类的有效性.
- 为了解决将先进的深度学习技术应用于地质研究的时间延迟.
- 将ViT和FDSL模型的性能与传统的CNN模型在地质环境中进行比较.
主要方法:
- 应用视觉变压器 (ViT) 架构用于微化石图像分类.
- 利用公式驱动的监督学习 (FDSL) 用于预训练的分类模型与生成的图像.
- 与基线卷积神经网络 (CNN) 模型对比ViT和FDSL的性能.
主要成果:
- 与之前的CNN模型相比,基于ViT的模型的平均精度高出6-8%.
- 使用FDSL预训练的模型平均比使用真实图像预训练的模型准确度略高.
- ViT和FDSL技术在分类微化石 (放射性化石) 中被证明是有效的.
结论:
- 视觉变压器 (ViT) 和公式驱动监督学习 (FDSL) 适用于地质图像分类任务.
- 这些先进的深度学习技术可以提高分析地质图像的准确性和效率.
- 该研究强调了ViT和FDSL在加速地质科学领域采用深度学习的潜力.
相关概念视频
Transformers with Off-Nominal Turns Ratios
In scenarios involving parallel transformers with disparate ratings, developing per-unit models requires accommodating off-nominal turns ratios. This situation arises when the selected base voltages are not proportional to the transformer’s voltage ratings. Consider a transformer where the rated voltages are related by the term a. If the chosen voltage bases satisfy a relationship involving term b, term c is defined as the ratio of these bases. This ratio is then substituted into the rated...
Diversity of Protists III
Rhizaria are a diverse group of unicellular protists characterized by their threadlike cytoplasmic extensions known as pseudopodia. These structures aid in both locomotion and feeding, giving Rhizaria an amoeboid appearance. Their amoeboid morphology once led to taxonomic confusion, but molecular phylogenetics has clarified their evolutionary placement and emphasized their shared use of pseudopodia despite divergent lineages.This clade comprises diverse lineages such as Chlorarachniophyta,...


