一个可解释的人工智能文本分类器用于青少年危机中自杀倾向的预测 文本线用户:开发和验证研究研究
Julia Thomas1,2,3, Antonia Lucht3, Jacob Segler4
1Division of Clinical Psychology and Epidemiology, Faculty of Psychology, University of Basel, Basel, Switzerland.
JMIR public health and surveillance
|January 29, 2025
概括
机器学习模型现在可以在危机帮助电话聊天中准确预测自杀想法和行为 (SIB). 这些模型识别了关键的语言模式,可能有助于预防自杀的临床决策.
科学领域:
- 人工智能的人工智能
- 临床心理学 临床心理学
- 公共卫生 公共卫生
背景情况:
- 自杀是一个主要的公共卫生问题.
- 机器学习 (ML) 模型在识别有自杀念头和行为 (SIB) 风险的个体方面表现有前途.
- 预训练的大型语言模型 (LLM) 在分析语音和文本以预测SIB方面表现出有效性.
研究的目的:
- 开发和实施ML方法,使用基于变压器的LLM来预测SIB在现实世界危机热线数据集中.
- 评估和比较开发的ML模型与传统的文本分类方法.
- 训练一个可解释的AI模型来识别与自杀风险相关的特征.
主要方法:
- 分析德国危机热线的青少年和年轻成年人 (14-25岁) 的聊天协议.
- 开发一个ML模型,使用基于变压器的LLM架构与长短期内存层.
- 预测自杀念头 (SI) 和先进的自杀参与 (ASE) 使用复合的哥伦比亚-自杀严重程度评分表得分.
- 与基于词向量的ML模型进行比较,并计算性能指标,包括Shapley附加解释 (SHAP) 的歧视,校准,临床实用性和可解释性.
主要成果:
- 基于变压器的模型实现了0.89的宏观平均AUC-ROC和0.79的精度,超过了基线模型 (AUC-ROC=0.77,精度=0.61).
- 该模型显示了非自杀性会话 (AUC-ROC=0.96) 的优异预测,以及SI (AUC-ROC=0.85) 和ASE (AUC-ROC=0.87) 的良好预测.
- SHAP分析确定了自我引用,否定,低自尊的表达和绝对主义的语言是关键的风险指标.
结论:
- 利用LLM转移学习的神经网络可以在危机聊天数据中准确地检测SI和ASE.
- 可解释的AI模型可以揭示与SIB相关的语言特征,可能支持临床决策.
- 未来的研究应该调查多式联通输入和时间动态,以加强自杀风险评估.
关键词:
德国 德国人 德国人 德国人 德国人莎普利·谢普利 (Shapley) 是一个青少年 青少年 青少年 青少年青少年 青少年 青少年聊天协议 聊天协议危机帮助电话 危机帮助电话在决策过程中做出决定.深度学习是一种深度学习.可解释的人工智能 (XAI)医疗信息学健康信息学寻求帮助的行为语言模型语言模型语言模型语言模型大型语言模型 (LLM)机器学习是机器学习.心理健康 心理健康手机电话 手机电话手机电话神经网络的神经网络的神经网络预防 预防 预防公共卫生公共卫生.风险监测 风险监测 风险监测自己伤害的自我伤害.他自杀了,自杀了自己.自杀的想法 自杀的想法自杀倾向 自杀倾向 自杀倾向 自杀倾向自杀 自杀 自杀 自杀 自杀 自杀 自杀变压器模型变压器模型年轻人年轻人年轻人年轻人年轻人年轻人
