了解用于儿童保护预测的机器学习模型的开发,性能,公平性和透明度:系统性审查
Claudia Bull1, Steve Kisely2, Kim Betts3
1Princess Alexandra Hospital Southside Clinical Unit, Greater Brisbane Clinical School, Medical School, The University of Queensland, Queensland, Australia; Queensland Centre for Mental Health Research, The University of Queensland, Brisbane, Australia.
Child abuse & neglect
|August 8, 2025
概括
这次审查发现,用于儿童保护预测的机器学习 (ML) 模型在方法上不成熟,往往缺乏公平性,透明度和可重现性. 伦理发展需要先进的公平技术和开放的数据共享,以获得更好的结果.
科学领域:
- 儿童保护研究 儿童保护研究
- 机器学习在社会服务中的应用.
- 预测模型在儿童福利中的预测模型.
背景情况:
- 机器学习 (ML) 模型越来越多地用于儿童保护预测.
- 评估它们的发展,验证,性能,公平性和透明度至关重要.
研究的目的:
- 系统地审查当代的儿童保护预测ML模型.
- 通过使用既定的标准来评估它们的绩效,公平性,可解释性和透明度.
主要方法:
- 按照PRISMA指南进行系统审查.
- 使用TRIPOD+AI标准评估模型透明度.
- 使用PROBAST标准评估偏差风险和适用性.
主要成果:
- 十一项研究使用了各种管理,健康和法律数据的ML模型.
- 绩效指标是可变的;只有四个模型解决了集团公平性.
- 部分实现了透明度和可解释性;很少有模型是可重复的,所有模型都有高偏差风险.
结论:
- 在儿童保护预测中的ML领域在方法上是不成熟的.
- 模型往往缺乏公平性,透明度和可重复性.
- 采用道德需要先进的公平性,利益相关者的参与和数据/代码共享.


