在使用真实世界数据时,对公平的机器学习技术进行范围审查.
Yu Huang1, Jingchuan Guo2, Wei-Han Chen2
1Department of Health Outcomes and Biomedical Informatics, University of Florida, Gainesville, FL, USA.
Journal of biomedical informatics
|March 7, 2024
概括
医疗保健AI/ML模型中的算法偏差可能会加剧健康不平等. 本次审查强调了关于减轻现实数据偏差的有限研究,并呼吁更多地关注人工智能应用中的公平性.
科学领域:
- 医疗信息学 医疗信息学
- 人工智能在医学中的应用
- 机器学习用于医疗保健
背景情况:
- 人工智能 (AI) 和机器学习 (ML) 在医疗保健中越来越多地用于临床决策支持.
- 人们对AI/ML的公平性和偏见存在担忧,由于好处和缺点的分配不均,可能会加剧健康不平等.
- 算法偏差可以不成比例地影响某些亚群体,扩大现有的健康差异.
研究的目的:
- 总结有关解决算法偏差和优化AI/ML模型中公平性的现有文献.
- 为了确定关于在医疗保健AI/ML公平性中使用真实世界数据 (RWD) 的研究差距.
- 为正在勃发展的医疗保健公平AI/ML领域的研究人员提供见解.
主要方法:
- 通过使用RWD进行了对评估和优化AI/ML模型在医疗保健中的公平性技术的彻底审查.
- 专注于评估公平性评估的量化指标,公开可访问的ML公平性研究数据集和偏见缓解方法.
主要成果:
- 确定了11篇论文,重点是优化医疗保健应用中的模型公平性.
- 发现目前对缓解RWD偏差的研究有限,无论是在疾病多样性还是医疗保健应用中.
- 指出,预处理技术往往显示出积极的结果,但在理解偏差根源和多模式数据方面仍然存在研究差距.
结论:
- 医疗保健中的公平AI/ML是一个正在发展的领域,需要增加研究重点.
- 需要进一步的研究来解决偏见的根本原因,扩大与RWD的公平性研究,并评估多式联络数据中的偏见.
- 本综述提供了有价值的见解,并使用现实世界医疗保健数据确定了AI/ML公平性研究人员的关键差距.


