相关实验视频
Updated: Sep 18, 2025

Assessment of Mouse Judgment Bias through an Olfactory Digging Task
Published on: March 4, 2022
大型语言模型显示在道德决策中放大了认知偏见
Vanessa Cheung1, Maximilian Maier1, Falk Lieder2
1Department of Experimental Psychology, University College London, London WC1H 0AP, United Kingdom.
大型语言模型 (LLM) 与人类相比显示出明显的道德偏见,在集体困境中表现出更多的利他主义,但在道德问题中表现出更强的省略和响应条件偏见. 不关键的依赖可能会放大这些问题.
科学领域:
- 认知科学 认知科学
- 人工智能伦理学 人工智能伦理学
- 道德心理学道德心理学
背景情况:
- 越来越多地依赖大型语言模型 (LLM) 进行决策和咨询.
- 越来越多的人对使用LLM作为心理学研究参与者的兴趣.
- 需要了解LLM道德决策能力,并将其与人类行为进行比较.
研究的目的:
- 调查法学士如何做出道德决策,并就道德困境提供建议.
- 将LLM道德决策与人类对各种困境类型的反应进行比较.
- 识别和分析LLM道德判断中存在的偏见.
主要方法:
- 他们被要求在现实的道德困境中模仿或就决策提供建议.
- 在四项研究中,LLM反应与人类参与者数据 (N=285,474,491) 进行了比较.
- 困境包括集体行动问题和道德场景,与实用主义和道德学推理形成对比.
- 用和没有微调的LLM进行了比较,以确定偏差来源.
主要成果:
- 在集体行动问题上,LLM表现出比人类更大的利他主义.
- 在道德困境中,LLM表现出更强的省略偏见,更倾向于不采取行动而不是采取行动.
- 劳动法师表现出了响应条件偏见,根据问题措辞改变了决策.
- 这些偏见在不同的困境集中被复制,并发现可能源于聊天机器人微调.
结论:
- 与人类相比,LLM拥有不同的道德决策模式,包括放大遗漏和响应条件偏见.
- 聊天机器人应用程序的微调似乎是这些LLM偏见的重要来源.
- 毫不批判地采用LLM道德建议可能会加剧现有的人类偏见,并引入新的有问题的偏见.
更多相关视频
05:48The Adventures of Fundi Intervention Based on the Cognitive and Emotional Processing in Attention Deficit Hyperactive Disorder Patients
Published on: June 12, 2020
03:14Augmenting Large Language Models via Vector Embeddings to Improve Domain-Specific Responsiveness
Published on: December 6, 2024
相关概念视频
Motivational Bias
Language and Cognition
Confirmation Biases
Hindsight Biases
Fundamental Attribution Error
Lazarus's Cognitive Appraisal Theory
Primary Appraisal:...