微调BERT模型的模糊组合用于软件工程数据集的特定领域情绪分析

科学领域:

• 软件工程 软件工程 软件工程
• 自然语言处理自然语言处理.
• 机器学习 机器学习

背景情况:

• 对社交媒体数据的情绪分析为开发人员反提供了洞察力.
• 一般情绪分析工具在软件工程数据上表现不佳.
• 现有的特定领域的工具在中性和负面情绪检测方面扎.

研究的目的:

• 为软件工程 (SE) 领域开发一个特定领域的情绪分析工具.
• 解决现有的SE情绪分析工具的局限性,特别是检测中立情绪.
• 提高对各种SE数据集的情绪分析的准确性和适用性.

主要方法:

• 这是一种混合方法,结合了深度学习和微调的BERT模型 (Bert-Base,Bert-Large,Bert-LSTM,Bert-GRU,Bert-CNN).
• 在SE数据集上开发了五种微调BERT模型的变体.
• 使用模糊逻辑创建的这些模型组合,称为Fuzzy Ensemble.
• 在四个基准数据集上进行评估:堆溢出,JavaLib,Jira和代码审查.

主要成果:

• 与最先进的工具相比,Fuzzy Ensemble模型表现出卓越的性能.
• 获得了0.883.3的最大F1分数.
• 成功提高了跨不同数据集中预测中立情绪的准确性.

结论:

• 迷糊组合模型有效地克服了现有的SE情绪分析工具的局限性.
• 这种方法为分析开发者意见提供了更高的准确性和更广泛的适用性.
• 拟议的方法为软件工程领域的情绪分析设定了新的基准.