构建公平可信的生物医学AI:用于识别关键决策点的工具

科学领域:

• 生物医学人工智能
• 医疗信息学 医疗信息学
• 人工智能伦理学

背景情况:

• 人工智能 (AI) 在生物医学中提供了变革性的潜力,改善了诊断,药物发现和患者护理.
• 然而,人工智能实施引发了重大的伦理问题,包括算法偏见,健康不平等以及数据隐私风险.
• 解决这些问题需要关注人工智能开发和部署中的公平,信任和可信度.

研究的目的:

• 提出一个框架,在生物医学AI中嵌入道德责任.
• 引入可信的人工智能决策地图,这是一个适应工具,用于指导整个AI生命周期的道德决策.
• 促进多方利益相关者对话和机构问责制,在开发公平可信的人工智能方面.

主要方法:

• 从精准医学研究中调整了一个决策映射框架.
• 开发了可信的人工智能决策地图,以确定人工智能开发中的关键道德决策点.
• 通过在农村医疗保健中部署人工智能的案例研究来说明该工具的应用.

主要成果:

• 值得信赖的AI决策地图可视化了影响AI公平性和可信度的关键决策点.
• 该地图有助于预测下游后果,并整合各种利益相关者的观点.
• 它支持建立对道德AI实践的机构问责制.

结论:

• 在生物医学AI中,必须在机构和个人层面整合道德考虑.
• 多方利益相关者参与,特别是代表性不足的群体,对于公平的AI至关重要.
• 需要对可信的人工智能决策地图进行进一步的实证验证,以完善其在促进公平可信的生物医学人工智能的实用性.