概括
在非多元数据上训练的神经成像AI可能会做出不准确的临床决定. 解决数据集中的人口差距对于人工智能安全性和科学有效性至关重要,认识到神经多样性是生物现实.
科学领域:
- 神经科学是一个神经科学.
- 人工智能的人工智能
- 医疗成像医学成像
背景情况:
- 神经成像人工智能系统越来越多地用于临床决策.
- 训练数据集中的人口排除可能会损害人工智能的科学有效性和临床安全性.
- 数据集中的集中可以破坏神经多样性的原则.
研究的目的:
- 在主要的神经成像存储库中检查人口集中.
- 分析这种度如何影响人工智能系统.
- 调查人工智能对神经多样性的病理化潜力.
主要方法:
- 分析了五个主要的神经成像数据集 (>55,000名参与者).
- 收集参与者特征 (种族,族裔,性别,年龄,地理,社会经济地位,教育).
- 对人口群体间的人工智能性能差异的文献综述.
主要成果:
- 数据集显示了严重的人口集中 (例如,52-94%的白人,85-100%的北美/欧洲人).
- 观察到AI性能差异,包括女性发作检测率较低,黑人参与者痴呆查假阳性结果较高.
- 在使用受限制数据的COVID-19大脑衰老研究中注意到偏差放大.
结论:
- 神经成像人工智能中的人口排斥对研究有效性和临床安全构成重大威胁.
- 多样性,公平性和包容性倡议是必不可少的.
- 承认神经多样性是科学严谨性和AI安全性的关键.
