大型语言模型在预防自杀领域的应用:范围审查
Glenn Holmes1, Biya Tang1, Sunil Gupta2
1Black Dog Institute, University of New South Wales, Sydney, Randwick, Australia.
Journal of medical Internet research
|January 23, 2025
概括
大型语言模型 (LLM) 显示了自杀预防数字服务的前景. 本综述强调了LLM应用中的新兴趋势以及在心理健康领域负责任的开发和使用的关键伦理考虑.
科学领域:
- *跨学科的研究,将计算机科学与心理健康联系起来.
- * 专注于人工智能应用以预防自杀.
背景情况:
- *预防自杀是全球卫生优先事项,自杀死亡和自杀企图对其产生重大影响.
- *大型语言模型 (LLM) 为预防自杀提供了可扩展的数字干预措施的潜力.
- *临床和道德挑战伴随着在心理健康LLMs的使用.
研究的目的:
- * 确定LLMs在预防自杀和自我伤害研究中的应用新兴趋势.
- * 总结这一发展中领域的关键临床和伦理考虑因素.
主要方法:
- *对4个数据库 (PsycINFO,Embase,PubMed,IEEE Xplore) 的范围审查于2024年2月进行.
- *包括英语,同行评审的文章和会议记录,关于LLM在自杀/自伤方面的应用.
- * 根据PRISMA-ScR标准进行叙述合成,以分析研究特征,模型和伦理考虑.
主要成果:
- *43项研究符合纳入标准,其中大多数 (77%) 专注于确定自杀风险.
- *新兴应用利用生成的LLM进行支持,教育和培训.
- *社交媒体数据是最常见的培训来源;双向编码器从变压器 (BERT) 和生成预训练变压器 (GPT) 的表示是主要的模型.
结论:
- * 多学科的方法对于这个不断发展的研究领域是必不可少的.
- * 开放访问模型和数据集需要仔细记录限制和偏见.
- * 针对隐私,安全和人类监督的政策对于负责地实施自杀预防的LLM是必不可少的.
