计算机辅助检测的透明度越来越高,影响了视觉搜索中的决策.
Melina A Kunar1, Giovanni Montana2, Derrick G Watson3
1Department of Psychology, The University of Warwick, Coventry, CV4 7AL, UK. m.a.kunar@warwick.ac.uk.
Psychonomic bulletin & review
|October 24, 2024
概括
在医疗查中提供有关人工智能 (AI) 准确性的细节可能会损害性能. 人工智能透明度的提高导致了更多的错误,并在模拟的乳房造影任务中降低了诊断准确度.
科学领域:
- 医学成像医学成像
- 医疗保健中的人工智能
- 人与计算机的互动.
背景情况:
- 人工智能 (AI) 越来越多地用于医疗保健,促使人们呼吁人工智能系统的透明度.
- 透明度建议旨在向用户提供有关AI准确性和功能的信息.
- 然而,提高透明度可能会导致过度依赖和人类决策的负面结果.
研究的目的:
- 调查人工智能透明度在医学查背景下对人类决策的影响.
- 评估AI准确性的知识如何影响视觉搜索任务中的性能.
主要方法:
- 使用模拟实验室乳房造影任务,涉及到癌症的视觉搜索.
- 参与者的表现在两个条件下进行了评估:透明 (披露AI准确性) 和不透明 (隐AI准确性).
- 计算机辅助检测 (CAD) 系统提供了不同精度的AI提示.
主要成果:
- 人工智能透明度的增加影响了任务性能.
- 透明条件导致更多的错误报警和降低灵敏度.
- 召回率增加,积极的预测值随着更大的透明度而下降.
结论:
- 人工智能系统的透明度,特别是医疗查的透明度,可能会对人类的决策产生负面影响.
- 由于透明度增加,对人工智能的过度信任可能会导致不良的临床结果.
- 进一步的研究对于理解人工智能透明度和医疗保健环境中人类表现之间的复杂关系至关重要.


