生成型人工智能数字心理健康干预的安全性和用户体验:探索性随机对照试验
Timothy R Campellone1, Megan Flom1, Robert M Montgomery1
1Woebot Health, San Francisco, CA, United States.
Journal of medical Internet research
|May 23, 2025
概括
数字心理健康干预 (DMHI) 中的生成人工智能显示出对用户参与和同情心的承诺. 有了适当的安全护,生成性AI可以安全地在DMHIs中实现,而不会影响用户体验.
科学领域:
- 数字心理健康干预数字心理健康干预
- 医疗保健中的人工智能
- 人与计算机的互动.
背景情况:
- 生成型人工智能 (AI) 在数字心理健康干预 (DMHI) 中提供了增强用户体验的潜力.
- 不受控制的AI实施会带来用户损害和信任侵蚀的风险.
- 在本研究之前,为安全地将生成AI整合到DMHIs存在有限的严格评估.
研究的目的:
- 探索和比较基于规则的DMHI与基于人工智能生成的DMHI的用户关系,体验,安全和技术防护.
- 评估技术护在DMHI背景下管理用户输入和AI输出方面的有效性.
- 在受控的数字心理健康环境中评估生成性AI的安全性和用户体验.
主要方法:
- 一个为期2周的随机对照试验 (RCT),涉及160名成年参与者.
- 参与者被分配到生成AI (n=81) 或基于规则 (n=79) 的对话DMHI.
- 测量包括用户关系 (满意度,联盟,同理心准确度),用户体验 (参与,不良事件) 和技术护成功.
主要成果:
- 用户关系和体验指标在生成AI和基于规则的DMHIs之间基本相似.
- 生成型人工智能手臂在检测和同情地响应方面表现出卓越的准确性 (98%对69%).
- 没有发生严重的不良事件;技术护100%成功,参与者对AI的情绪有所改善.
结论:
- 当有适当的防护时,可以在数字心理健康干预 (DMHI) 中安全有效地实施生成人工智能.
- 这项研究提供了一个基础蓝图,用于开发强大的技术和对话护,以便在DMHIs中安全地部署生成AI.
- 这些发现表明,生成人工智能可以增强DMHIs,同时保持积极的用户关系和体验.
关键词:
在这里,我们可以看到AIAIAI.DMHI DMHI 的意思是有关RCT的RCT是什么人工智能的人工智能是人工智能.聊天机器人聊天机器人聊天机器人控制试验是对受控试验的研究.数字健康数字健康数字心理健康干预是指数字心理健康干预.这是探索性的探索.产生性的产生性.生成型的人工智能心理健康 心理健康随机的,随机的,随机的,随机的,随机的随机对照试验是随机对照试验.关系关系关系关系关系关系关系.在安全方面,安全是安全的.满意度 满足感 满足感用户用户用户用户用户.用户体验用户体验用户关系用户关系.用户安全用户安全.用户满意度 用户满意度更多相关视频
相关概念视频
Randomized Experiments
The randomization process involves assigning study participants randomly to experimental or control groups based on their probability of being equally assigned. Randomization is meant to eliminate selection bias and balance known and unknown confounding factors so that the control group is similar to the treatment group as much as possible. A computer program and a random number generator can be used to assign participants to groups in a way that minimizes bias.
Simple randomization
Simple...
Simple randomization
Simple...
Blinding
Blinding is a commonly used method of not telling participants which treatment a subject is receiving. Blinding is a critical part of a randomized control trial or RCT. It reduces the bias that affects the results. In an RCT, blinding is used in the form of a placebo. A placebo effect occurs when untreated subjects falsely believe they have received the treatment and report improved symptoms. A placebo or a dummy treatment is administered to subjects to negate the bias caused by such an effect.


