在初级保健中进行人工智能选:建立更安全,更公平的现实世界证据
Aymn Alamoudi1,2, Evangelos Kontopantelis3,4, Salwa S Zghebi1
1Division of Population Health, Health Services Research and Primary Care, School of Health Sciences, Faculty of Biology, Medicine and Health, University of Manchester, Manchester, England, United Kingdom.
在初级保健中,人工智能 (AI) 选需要真实世界的安全和公平评估. 没有它们,人工智能的部署有可能扩大健康不平等,而不是减少它们.
科学领域:
- 数字健康数字健康
- 初级保健领域的创新.
- 卫生公平性健康公平性
背景情况:
- 人工智能 (AI) 选正在初级保健中迅速推进,旨在提高效率和安全.
- 目前的人工智能分类证据有限,通常基于追溯数据或紧急设置,缺乏现实世界初级保健结果和公平数据.
- 社会技术因素,包括算法偏见,人为因素和工作流集成,对人工智能分类安全和公平构成重大风险.
研究的目的:
- 突出需要在初级保健中对人工智能分拣进行严格的现实世界评估.
- 强调在人工智能部署中公平层次安全数据的重要性.
- 倡导对人工智能分类系统进行全面的市场后监测.
主要方法:
- 对初级保健中人工智能分拣现有证据的审查.
- 对潜在风险和挑战的社会技术分析.
- 为特定的评估和监测策略提出论点.
主要成果:
- 稀缺的现实世界结果数据和几乎没有公平分层的安全数据存在于一般实践中的AI分类.
- 部署风险包括算法偏见,不足,人为因素,工作流程问题,治理差距和监控不足.
- 现有的健康差异可能会被不充分评估的AI分类所加剧.
结论:
- 在初级保健中确保安全和公平的人工智能选需要现实世界的评估.
- 以股权为重点的业绩报告和严格的市场后监测至关重要.
- 没有这些措施,人工智能部署可能会加剧健康不平等.
更多相关视频
07:31Implementation of a Real-Time Psychosis Risk Detection and Alerting System Based on Electronic Health Records using CogStack
Published on: May 15, 2020
14:43A Novel Method for Involving Women of Color at High Risk for Preterm Birth in Research Priority Setting
Published on: January 12, 2018
相关概念视频
Primary Healthcare Services
In 1978, international leaders convened in Alma-Ata, Kazakhstan, for what would be a pivotal event in global health. The Alma-Ata Declaration was the first to call...
Tertiary Healthcare System
Secondary Healthcare System
Hazard Ratio
For example, in a clinical trial...
Preventive Healthcare Services
Patient-centered Care
