通过差异转移学习和适应性损失函数增强乌尔都语仇恨言论的检测

科学领域:

• 自然语言处理自然语言处理.
• 计算语言学 计算语言学
• 人工智能的人工智能

背景情况:

• 检测仇恨言论是复杂的,特别是乌尔都语等资源较低的语言.
• 现有的研究主要集中在高资源语言上,使得乌尔都语缺乏研究.

研究的目的:

• 以提高乌尔都语仇恨言论的检测,使用新的差异转移学习和适应性损失功能.
• 在仇恨言论检测中解决乌尔都语特有的语言和文化细微差别.

主要方法:

• 利用高资源语言的预训练模型进行特征提取.
• 实施差异转移学习以适应模型与乌尔都语的独特特征.
• 开发了一个适应性损失函数来处理阶级不平衡,并提高对仇恨言论的敏感性.
• 创建并使用了一个Nastaliq Urdu数据集,包含18058条YouTube评论.

主要成果:

• 转移学习方法的表现优于传统的机器学习和深度学习技术,F1分数从81%提高到89%以上.
• 拟议的DAMBERT模型包含了预训练的嵌入器,获得了91.49%的加权F1得分.
• 适应性损失函数改善了对少数群体仇恨言论类型的模型灵敏度.

结论:

• 差异转移学习与适应性损失函数相结合,为乌尔都语仇恨言论检测提供了一个强大的方法.
• 达姆伯特模型证明了在低资源语言中改进仇恨言论检测系统的巨大潜力.
• 这项研究强调了在NLP任务中文化和语言适应的重要性.