医生现在会对你进行测谎仪:对人工智能的伦理担忧,以检查患者的事实

科学领域:

• 医学伦理 医学伦理
• 医疗保健中的人工智能
• 临床信息学 临床信息学

背景情况:

• 患者报告的信息越来越多地被用于通过人工智能 (AI) 预测社会行为.
• 该应用程序引入了与患者数据隐私,尊重和控制相关的重大伦理挑战.
• 现有的伦理担忧被人工智能对不准确性和偏见的潜力以及它对患者提供者信任的影响加剧了.

研究的目的:

• 探索使用人工智能用于从患者数据中预测社会行为的伦理影响.
• 确定人工智能系统,特别是大型语言模型 (LLM) 中关于患者报告信息的潜在偏差.
• 为减轻与医疗保健中人工智能验证系统相关的风险提出建议.

主要方法:

• 对临床人工智能的伦理问题进行分析,以验证社会行为.
• 使用患者语音样本对AI验证系统滥用的模拟.
• 在LLM中识别潜在的偏差,偏好多维数据而不是患者报告.

主要成果:

• 人工智能驱动的社会行为预测引发了有关患者数据和信任的伦理问题.
• 模拟的滥用揭示了LLM对患者报告数据的偏见,有利于其他AI输出.
• 如果人工智能验证方法没有仔细管理,可能会对患者和医疗保健系统的完整性造成损害.

结论:

• 临床人工智能用于社会行为预测需要仔细的伦理考虑.
• 缓解策略对于防止人工智能偏见和保护患者与提供者关系至关重要.
• 解决人工智能"自信"问题和确保公平性对于在医疗保健中负责任地实施人工智能至关重要.