低资源的MobileBERT用于在不平衡的文本数据集中识别情绪,以减轻资源有限的挑战
Muhammad Hussain1, Caikou Chen1, Sami S Albouq2
1College of Information Engineering Yangzhou University, Yangzhou, PR China.
PloS one
|January 24, 2025
概括
本研究介绍了焦点加权损失 (FWL) 与对抗性训练,以改善对话中的情绪识别 (ERC). 这种新的方法增强了同情的AI交互,而不需要大型数据集或计算资源.
科学领域:
- 人工智能的人工智能
- 自然语言处理自然语言处理.
- 计算语言学 计算语言学
背景情况:
- 在对话中识别情绪 (ERC) 对于 empathic AI 是至关重要的.
- 在ERC的挑战源于弱情感语义相关性和上下文依赖性.
- 现有的方法往往需要大量的计算资源.
研究的目的:
- 提出一个新的损失函数,焦点加权损失 (FWL),以改进ERC.
- 为了解决不平衡的情绪分类,减少对大批量或计算能力的依赖.
- 加强与人类类似的对话系统的发展.
主要方法:
- 开发了焦点加权损失 (FWL) 与对抗训练相结合.
- 集成的FWL与紧的MobileBERT语言模型.
- 在四个基准数据集上评估了这一方法:MELD,EmoryNLP,DailyDialog和IEMOCAP.
主要成果:
- 在所有四个基准数据集中展示了竞争性表现.
- 通过对抗性训练验证了FWL的有效性,用于处理不平衡的情绪分类.
- 在有限的资源限制下展示了高性能潜力.
结论:
- 拟议的FWL与对抗性培训有效地改善了对话系统中的情感识别.
- 这种方法为同情的人工智能开发提供了计算效率高的解决方案.
- 这种方法可以在数字平台上实现更加人性化的交互,即使资源有限.
