保持医疗成像私人大型人工智能模型的公平性和诊断准确性

科学领域:

• 医疗人工智能的人工智能
• 机器学习在医疗保健中的应用
• 数据隐私在医学中的隐私.

背景情况:

• 人工智能 (AI) 模型在医疗保健中越来越多地被使用,由于医疗信息的敏感性,需要采取强有力的数据保护措施.
• 差异隐私 (DP) 是人工智能模型培训中隐私保护的标准,但存在对其对模型准确性和公平性的影响的担忧.
• 现有研究表明,DP可能会对AI模型的性能和公平性产生负面影响,从而阻碍其在临床环境中采用.

研究的目的:

• 评估保护隐私的人工智能模型培训对准确性和公平性的影响,与非私人培训方法相比.
• 评估用于医学成像的AI模型中隐私,实用性和公平性之间的权衡.
• 确定使用差异隐私在现实世界临床数据集上训练诊断AI模型的可行性.

主要方法:

• 利用了两个回顾性数据集:一个大队列的胸部X射线图 (N=193,311) 和一个较小的腹部CT图像 (N=1625) 用于胰腺管道腺癌 (PDAC) 的分类.
• 进行了深度卷积神经网络 (CNN) 的比较,这些神经网络是使用差异隐私 (DP) 和不使用差异隐私 (DP) 进行训练的.
• 使用接收器操作特征曲线 (AUROC) 下面的面积和使用皮尔森的r或统计平价差异的隐私公平性权衡的评估隐私-实用性权衡.

主要成果:

• 隐私保护培训导致模型精度降低.
• 不同隐私 (DP) 并没有显著扩大基于年龄,性别或共患病症的歧视.
• 一个趋势表明,更具挑战性的诊断和特定的患者子组在PD培训中经历了更大的绩效下降.

结论:

• 诊断深度学习模型的隐私保护培训甚至可以通过复杂的现实世界临床数据来实现.
• 这项研究表明,在医疗AI中使用DP可以保持出色的诊断准确性和公平性.
• 这些发现支持在临床AI应用中更广泛地采用保护隐私的技术.