相关实验视频
Updated: Sep 10, 2025

Assessment of Mouse Judgment Bias through an Olfactory Digging Task
Published on: March 4, 2022
对认知偏见的O1推理大语言模型的评估:一项图片研究
Or Degany1,2, Sahar Laros3, Daphna Idan4,5
1Gray School of Medicine, Gray Faculty of Medical and Health Sciences, Tel Aviv University, Tel Aviv, Israel. ordegany@gmail.com.
与GPT-4和人类相比,一个新的AI模型 (o1) 显示了临床决策中的认知偏差减少. 虽然它大多是无偏见的,但在特定场景中仍然存在偏见,强调需要在医学中仔细实施人工智能.
科学领域:
- 医学的人工智能
- 临床决策支持系统
- 认知心理学
背景情况:
- 认知偏差是高压临床环境中常见的系统判断错误.
- 像GPT-4这样的先前人工智能模型已经表现出对这些偏见的敏感性,有时甚至超过了人类的表现.
- 了解人工智能对认知偏见的易感性对于安全的医疗应用至关重要.
研究的目的:
- 评估o1人工智能模型的易受性,这是一种具有增强推理的新系统,用于临床决策中的常见认知偏见.
- 将o1模型的偏差性能与已建立的GPT-4模型和人类临床医生进行比较.
- 评估先进的人工智能推理模型在医疗环境中减轻认知偏见的潜力.
主要方法:
- 设计了10对临床情景来测试特定的认知偏差,版本之间有微妙的修改.
- 在对应的情景中,o1模型产生了1800个临床建议,以测量系统偏差.
- 通过使用已知方法,将性能与之前的GPT-4和人类临床数据进行了比较.
主要成果:
- 在70%的测试图片中,O1模型没有显示出可测量的偏差.
- 在偏差的图片中,o1的偏差大小低于GPT-4和人类临床医生.
- 该模型在一个维尼特 (奥卡姆的剃须刀) 中显示出一致的偏差,并且更容易在关闭差距的线索中出现偏差.
- 场景内达成的协议超过了94%,这表明决策的变化率低于此前报道.
结论:
- 先进的人工智能推理模型在减少医学上的认知偏见和决策变化方面具有前景.
- 然而,人工智能模型并非完全免受认知偏见的影响,因此需要对失败情况进行进一步研究.
- 人工智能决策支持工具可能有好处,但需要仔细评估以确保安全有效的临床整合.
更多相关视频
06:58Highlighting and Reducing the Impact of Negative Aging Stereotypes During Older Adults' Cognitive Testing
Published on: January 24, 2020
05:15The Spatial Memory Game: Testing the Relationship Between Spatial Language, Object Knowledge, and Spatial Cognition
Published on: February 19, 2018
相关概念视频
Hindsight Biases
Confirmation Biases
Lazarus's Cognitive Appraisal Theory
Primary Appraisal:...
Stereotypes, Prejudice, and Discrimination
Language and Cognition
Stereotype Content Model