ET-Network:一种新型高效的变换器深度学习模型,用于自动识别乌尔都语手写文本
Ameer Hamza1, Shengbing Ren1, Usman Saeed1
1Computer Science and Engineering, Central South University, Changsha, China.
PloS one
|May 17, 2024
概括
ET-Network是一种基于变压器的新方法,通过将自我注意力与EfficientNet.Net集成,显著改善了乌尔都语手写文本识别. 这一进步为低资源语言光学字符识别中的字符和文字错误率建立了新的最先进水平.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 自然语言处理自然语言处理.
背景情况:
- 乌尔都语手写文本识别 (UHTR) 由于不一致的写作风格和有限的数据,与高资源语言不同,具有挑战性.
- 现有的光学字符识别 (OCR) 方法难以应对乌尔都文的复杂性和数据稀缺性.
- 变压器模型显示UHTR的承诺,解决传统方法的局限性.
研究的目的:
- 开发一种基于变压器的先进方法,用于准确识别乌尔都语手写文本.
- 通过将自我注意机制集成到EfficientNet.Net中来增强功能提取.
- 为UHTR建立一个新的最先进的性能基准.
主要方法:
- 拟议的ET-Network,将EfficientNet与自我注意力结合起来,以实现强大的特征提取.
- 采用香草变压器架构用于语言建模和文本生成.
- 使用前光束搜索来优化识别结果.
- 在三个不同的乌尔都语手写数据集上训练和评估模型:NUST-UHWR,UPTI2.0和MMU-OCR-21.
主要成果:
- 实现了字符错误率 (CER) 的4%降低和文字错误率 (WER) 的1.55%降低.
- 为乌尔都语手写文本识别建立了新的最先进的5.27%的CER和19.09%的WER.
- 展示了整合自我注意力以捕捉乌尔都文中远程依赖的有效性.
结论:
- 与现有的乌尔都语手写文本识别方法相比,ET-Network提供了显著的改进.
- 基于变压器的方法,特别是自我注意的方法,对于低资源语言OCR非常有效.
- 已建立的最先进的性能突显了ET-Network在实际应用中的潜力.
