人工智能在医疗保健中的选择性部署和人类专业知识下降的问题

科学领域:

• 医疗信息学 医疗信息学
• 医疗保健中的人工智能
• 生物伦理学生物伦理学

背景情况:

• 机器学习算法为医疗保健诊断和预后提供了进步.
• 代表性不足的人群通常会因为数据偏差而经历这些算法的低性能.
• 已经提出了选择性部署策略,以减轻算法偏差.

研究的目的:

• 探讨由于选择性部署医疗保健算法的原因,在小型,代表性不足的群体中人类专业知识下降的长期风险.
• 讨论保护人类专业知识和确保被排斥群体获得优质护理的战略.
• 论证在道德部署算法医疗保健过程中的专业知识保护的必要性.

主要方法:

• 对选择性算法部署的影响的概念分析.
• 探索与将特定患者群体排除在算法护理之外相关的风险.
• 讨论人工智能在医学中的伦理考虑.

主要成果:

• 机器学习算法的选择性部署可能会导致对小,代表性不足的群体的关键人类专业知识的长期下降.
• 这些被排除在算法护理之外的群体将继续依赖人类的专业知识,这可能会随着时间的推移而减少.
• 这种风险在患有罕见疾病的人群中尤为明显.

结论:

• 保护人类的专业知识对于AI在医疗保健中的道德实施至关重要.
• 必须制定战略,为所有患者群体,包括那些被排除在算法解决方案之外的人,保持长期获得优质护理的机会.
• 伦理的人工智能部署需要采取主动措施来保护专门的人类知识.