对自杀调查的生成人工智能反应的检查:内容分析
Laurie O Campbell1, Kathryn Babb2, Glenn W Lambie3
1Learning Sciences and Educational Research, College of Community Innovation and Education, University of Central Florida, 4000 Central Florida Blvd, Orlando, 32816, United States, 1 407-823-2000, 1 407-823-5651.
随着时间的推移,生成性AI聊天机器人提供了更准确和更全面的自杀信息,包括988热线. 然而,专业的心理健康支持对青少年至关重要.
科学领域:
- 人工智能的人工智能
- 心理健康 心理健康
- 公共卫生 公共卫生
背景情况:
- 青少年使用生成性AI聊天机器人获取心理健康信息.
- 人工智能对自杀的反应的准确性尚未得到充分理解.
研究的目的:
- 调查生成性AI聊天机器人对自杀相关问题的反应.
- 分析人工智能生成的关于自杀的信息的内容和准确性.
主要方法:
- 从多个生成AI聊天机器人 (谷歌Gemini,微软Copilot,ChatGPT,Claude等) 的响应内容分析. ) 的情况.
- 两阶段的分析间隔一年进行,包括语言分析.
- 检查了像谷歌双子,微软Copilot,ChatGPT,Claude,xAI Grok,Mistral AI和Meta AI这样的聊天机器人.
主要成果:
- 从生成性AI聊天机器人的回应在两个研究阶段之间提高了深度和准确性.
- 人工智能聊天机器人提供了关于自杀迹象,死亡率,资源和支持的更全面的信息.
- 在后来的AI响应中,更多地强调988自杀热线号码.
结论:
- 生成型人工智能聊天机器人显示了自杀信息准确性和全面性的改进.
- 尽管有所改善,但专业的心理健康支持对青少年至关重要.
- 建议对人工智能算法进行持续监测,以预防自杀.
更多相关视频
08:53Integrating Computerized Linguistic and Social Network Analyses to Capture Addiction Recovery Capital in an Online Community
Published on: May 31, 2019
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
相关概念视频
Non-equilibrium in the Cell
Empathy
Reason and Intuition
The Scientific Method
Surveys
Ethics in Research
