临床医生-人工智能接口:在FDA批准的医疗图像解释人工智能设备中的预期用途和可解释性

科学领域:

• 医疗成像医学成像
• 医疗保健中的人工智能
• 临床工作流程整合.

背景情况:

• 人工智能 (AI) 在医学中的应用正在迅速扩大,需要无整合到临床实践中.
• 临床翻译的一个关键,但经常被忽视的方面是人工智能在现有临床工作流程中的作用及其输出对临床医生互动的实用性.
• 人工智能预测的可解释性对于临床医生的信任和有效使用至关重要,特别是在医学图像解释中.

研究的目的:

• 评估FDA批准的医疗图像解释辅助人工智能设备的现状.
• 根据其预期的临床用途,产生的输出和提供的可解释性特征来评估这些设备.
• 创建一个详细介绍临床医生-AI接口的数据库,以提高透明度和未来的评估.

主要方法:

• 进行了FDA批准的AI设备的总结评估,专门用于医学图像解释辅助.
• 创建了一个精心策划的数据库,重点关注这些AI设备的预期临床用途,输出特征和可解释性类型.
• 分析数据以确定临床医生-AI接口的趋势和变化.

主要成果:

• 人工智能设备的高频率被发现可以作为"分类"工具,优先考虑临床医生审查的病例.
• 不同的人工智能产品产生的输出特征存在显著的变化.
• 许多人工智能设备对其预测的解释能力有限,可能会阻碍临床医生的理解和信任.

结论:

• 医疗图像解释中人工智能的当前景观显示了以分拣为重点的设备的普遍性,其输出多样化,并且往往无法充分解释.
• 需要提高临床医生-AI接口的透明度.
• 需要严格的评估来确定哪些AI整合策略和可解释性方法可以带来最佳的临床结果.