DeBERTa-BiLSTM:使用预训练模型和深度学习的阿拉伯医学问题的多标签分类模型

科学领域:

• 自然语言处理 (NLP) 是一种自然语言处理.
• 医疗保健中的人工智能
• 医疗信息学 医疗信息学

背景情况:

• 由于COVID-19的流行,人们需要获得健康信息.
• 多标签问题分类对于管理大量查询至关重要.
• 阿拉伯语对NLP任务提出了独特的挑战.

研究的目的:

• 开发和评估一个深度学习模型,用于阿拉伯医学问题的多标签分类.
• 在阿拉伯医学查询的背景下,解决多标签分类的复杂性.
• 加强医疗保健的自动化问答系统.

主要方法:

• 提出了一个结合DeBERTa (解码增强的BERT与脱的注意力) 和BiLSTM (双向长期短期记忆) 的深度学习模型.
• 对于词向量表示,DeBERTa进行了微调,BiLSTM用于深度特征提取.
• 该模型经过训练,将阿拉伯语的COVID-19问题分为十个预定义的类别.

主要成果:

• 拟议的模型证明了阿拉伯语多标签医疗问题的有效分类性能.
• 关键性能指标包括0.042的阻击损失,0.84的微精度/回忆/F1,0.71的子集精度,0.89的AUC和0.72.79的雅卡德指数.
• 这些结果表明,在处理复杂的医疗查询方面表现令人鼓舞.

结论:

• 开发的深度学习模型为阿拉伯医学问题的自动化多标签分类提供了可行的解决方案.
• 这项技术可以显著提高医疗保健设施和远程医疗服务的效率.
• 它通过提供及时信息,为更可靠和更有效的医疗咨询铺平了道路.