重新思考通过监督或自我监督的学习进行领域特定的培训,以进行胸部X光学分类:与冷启动主动学习中的ImageNet对应器进行比较研究

科学领域:

• 医学成像分析分析 医学成像分析
• 医疗保健中的人工智能
• 机器学习用于诊断.

背景情况:

• 胸部放射分析中的深度学习 (DL) 需要大量的注释数据.
• 冷启动主动学习 (AL) 通过选择信息数据子集来减轻注释成本.
• 预先训练的模型显示出希望,但它们在冷启动AL中的作用尚未得到充分探索.

研究的目的:

• 评估针对特定领域的预训练模型与在胸部X射线冷启动AL中的一般预训练模型.
• 评估不同初始化策略和类平衡对AL性能的影响.
• 探索一次性初始化在减少专家工作量方面的潜力.

主要方法:

• 将受监督 (TXRV) 和自我监督 (REMEDIS) 的域特定模型与ImageNet预训练模型进行比较.
• 评估了在初始化和随后的学习阶段对肺炎和COVID-19检测的模型性能.
• 调查多样性,不确定性和混合采样用于初始化,以及不确定性采样用于随后的学习.

主要成果:

• 特定领域的模型在样本选择中并不总是表现优于一般模型.
• 预训练模型初始化超过了随机采样,但表示通常无法取代原始图像.
• 初始化性能与随后的学习有积极的相关性;一次性初始化与完整的AL相当.
• 在初始样本中的阶级平衡与模型性能之间发现了U形相关性.

结论:

• 与一般预训相比,医疗预训在冷启动AL方面存在局限性.
• 预训练的基于模型的初始化,一次性初始化和类平衡是有效的AL的关键因素.
• 需要进一步的研究来加强医疗预训练和开发新的AL方法.