多语言仇恨言论检测:一个半监督的生成对抗方法
Khouloud Mnassri1, Reza Farahbakhsh1, Noel Crespi1
1Samovar, Télécom SudParis, Institut Polytechnique de Paris, 91120 Palaiseau, France.
Entropy (Basel, Switzerland)
|April 26, 2024
概括
本研究介绍了一种使用生成对抗网络 (GAN) 和预训练语言模型 (PLM) 进行有效检测仇恨言论的多语言半监督模型. 该模型在英语,德语和印度语的有限标记数据中实现了高性能.
科学领域:
- 自然语言处理 (NLP) 是一种自然语言处理.
- 人工智能 (AI) 是一种人工智能.
背景情况:
- 社交媒体的全球影响力在不同语言中检测仇恨言论方面带来了挑战.
- 标记数据的稀缺性阻碍了有效的仇恨言论检测模型的开发.
- 半监督和生成人工智能方法对于克服数据限制至关重要.
研究的目的:
- 开发一种创新的多语言半监督模型,用于检测仇恨言论和冒犯性语言.
- 将生成对抗网络 (GAN) 与预训练语言模型 (PLM) 结合起来,以提高性能.
- 为了应对跨语言仇恨言论检测中有限的标记数据的挑战.
主要方法:
- 实施一个多语言半监督模型,将GAN与mBERT和XLM-RoBERTa集成在一起.
- 仅使用HASOC2019数据集中的20%注释数据进行培训.
- 跨多语言,零射击跨语言和单语言培训场景的评估.
主要成果:
- 拟议的SS-GAN-mBERT模型在检测印欧语言中的仇恨言论和冒犯性语言方面表现出显著的有效性.
- 该模型即使在有限的注释数据 (20%) 中也实现了高性能.
- 基于mBERT的模型 (SS-GAN-mBERT) 的表现优于基于XLM-RoBERTa的模型 (SS-GAN-XLM),平均F1得分比基线增加9.23%,准确度增加5.75%.
结论:
- 开发的半监督GAN模型为多语言仇恨言论检测提供了强大的解决方案.
- 这种方法有效地减轻了NLP任务中有限的标记数据的挑战.
- 这些发现突出了将GAN和PLM结合起来,促进跨语言内容调节的潜力.
