通过使用大型语言模型进行双流建模来检测抑郁症:基于融合的转移学习框架,集成BERT和T5表示
Na Wang1,2,3, Weijia Zhang2, Raja Kamil1
1Faculty of Engineering, Universiti Putra Malaysia, UPM Serdang, Serdang, Selangor, Malaysia.
Frontiers in big data
|February 20, 2026
概括
这项研究引入了一种新的并行转移学习框架,使用BERT和T5融合来改进从语言中检测抑郁症. 该方法提高了准确性和精确性,为心理健康诊断提供了隐私意识的方法.
科学领域:
- 人工智能的人工智能
- 计算语言学 计算语言学
- 心理健康技术 心理健康技术
背景情况:
- 抑郁症诊断至关重要,但受到有限的数据访问和隐私问题的挑战.
- 现有的用于抑郁症检测的AI模型在数据稀缺和隐私限制方面扎.
- 大型语言模型 (LLM) 具有潜力,但对于心理健康应用需要专门的整合.
研究的目的:
- 利用语音数据开发一个隐私意识强大的AI框架,用于使用抑郁症检测.
- 通过融合机制,利用BERT和T5的互补优势,加强语言分析.
- 提高人工智能驱动的抑郁症检测系统的准确性和可靠性.
主要方法:
- 一个并行转移学习框架,通过融合机制集成BERT和T5模型.
- 利用来自两种LLM的综合语义嵌入来捕获从转录的语音中获得全面的语言线索.
- 采用1D CNN和密集网络的双分支架构,其次是最终预测的融合层.
主要成果:
- 拟议的BERT和T5融合方法在E-DAIC数据集上的基线模型表现明显优于基线模型.
- 实现了91.3%的精度 (3.0%的增加),95.2%的精度 (6.9%的增加) 和90.0%的F1得分 (1.7%的增加).
- 证明了LLM融合在提高抑郁症检测性能方面的有效性.
结论:
- 通过并行转移学习,BERT和T5的融合有效地改善了抑郁症的检测.
- 这种方法为心理健康应用提供了一个可扩展和隐私意识的解决方案.
- 突出了先进的人工智能技术在应对精神卫生保健方面的挑战方面的潜力.
关键词:
1DCNNN 1DCNN 在线播放贝尔特 (BERT) 公司电子DAIC是一个电子DAIC.T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T5 T1 T1 T1 T1 T1 T1 T2 T1 T2 T3 T1 T1 T1 T2 T1 T1 T2 T1抑郁 抑郁症 抑郁症 抑郁症 是一种文本 文本 文本转移学习转移学习变压器变压器变压器变压器