大型语言模型传播基于种族的医学
Jesutofunmi A Omiye1,2, Jenna C Lester3, Simon Spichak4
1Department of Dermatology, Stanford School of Medicine, Stanford, CA, USA.
商业大型语言模型 (LLM) 延续了有害的,基于种族的医学. 这项研究发现,医疗保健机构中的LLM可能传播被揭穿的种族主义医疗思想,对患者的护理构成风险.
科学领域:
- 医疗信息学 医疗信息学
- 人工智能伦理学 人工智能伦理学
- 健康 公平 卫生 公平
背景情况:
- 大型语言模型 (LLM) 越来越多地融入医疗保健.
- 人们担心它们有可能延续有害的,基于种族的医学.
- 现有的关于种族的医学误解需要在AI系统中仔细检查.
研究的目的:
- 评估四种商业大型语言模型,用于传播不准确的,基于种族的医学内容.
- 评估LLM对旨在检测基于种族的医学和种族误解的场景的反应.
- 确定与临床环境中LLM部署相关的潜在风险.
主要方法:
- 在8个与基于种族的医学相关的场景中,LLM使用9个不同的问题进行了测试.
- 每个问题在每个模型中被问了五次,每个LLM产生45个答案.
- 问题由专家医生制定,并基于对医疗学员误解的先前研究.
主要成果:
- 所有四个评估的大型语言模型都展示了延续基于种族的医学实例.
- 当同样的问题被重复时,模型的反应是不一致的.
- 在多个LLM响应中发现了有害,不准确,基于种族的内容.
结论:
- 当前的大型语言模型存在延续被揭穿的,种族主义的医学思想的风险.
- 将LLM整合到医疗保健中需要严格的评估,以防止危害.
- 需要进一步的研究,以减轻医学应用中使用的LLM中的偏见.
更多相关视频
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
05:56Objectification of Tongue Diagnosis in Traditional Medicine, Data Analysis, and Study Application
Published on: April 14, 2023
相关概念视频
Language and Cognition
Clearance Models: Physiological Models
The organ's clearance rate depends on the blood flow to the organ and the extraction ratio (E). The extraction ratio describes the organ's...
Stereotypes, Prejudice, and Discrimination
Classification of Illness
An illness is a response to a disease in which the person's level of functioning is changed compared with a previous level. The general classification of illness includes acute and chronic.
Acute illness is severe...
Mouse Models of Cancer Study
The development of transgenic, knockout, and knock-in mice has led to an exponential increase in their use as model organisms in research,...
Mechanistic Models: Compartment Models in Algorithms for Numerical Problem Solving
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
