在临床环境中为伦理人工智能采取缓解部署策略

科学领域:

• 医学的人工智能 (AI)
• 临床决策支持系统 临床决策支持系统
• 医疗公平与偏见 医疗公平与偏见

背景情况:

• 临床诊断工具可能会因非代表性的培训数据而在人口亚组中表现出差异性.
• 缺乏确立的实际部署解决方案,加剧了人工智能模型表现差异对代表性不足的群体的伤害.
• 现有的方法,如选择性部署,有可能完全排除某些子组.

研究的目的:

• 引入和评估对表现差异的临床AI模型的"减轻部署"战略.
• 探索将安全网整合到临床工作流程中的好处和局限性,以实现通用AI部署.
• 为医疗保健组织提供工具,以便在各种患者群体中安全部署AI模型.

主要方法:

• 提出了一项"减轻部署"战略,涉及人类-人工智能协作和市场后评估.
• 利用现实世界的案例研究来分析缓解部署方法的实际应用.
• 专注于使用现实数据在各子组中不断改进模型性能.

主要成果:

• 缓解部署策略为选择性部署提供了一个可行的替代方案,以解决AI性能差异.
• 人与人工智能的协作和持续评估对于保护在通用人工智能部署中代表性不足的群体至关重要.
• 案例研究提供了关于拟议战略的实际好处和局限性的见解.

结论:

• 缓解部署,结合安全网和持续学习,增强了临床AI的安全和公平使用.
• 这种方法支持普遍部署,同时积极保护弱势子组免受人工智能引起的伤害.
• 需要进一步的研究和实施,以在不同的临床环境中完善和验证这一战略.