人工智能是否可以对偏见进行疫苗接种? 一个探索性研究

科学领域:

• 人工智能在医学中的应用
• 临床决策支持系统 临床决策支持系统
• 健康 公平 卫生 公平

背景情况:

• 大型语言模型 (LLM) 越来越多地用于临床决策支持.
• 人们担心它们有可能延续社会经济偏见.
• 简单的基于提示的干预措施以缓解这些偏见的有效性尚未得到充分证实.

研究的目的:

• 评估基于提示的"注射"是否可以减少偏见并提高LLM建议的准确性.
• 评估指示LLM无视临床上无关紧要的社会经济信息的影响.

主要方法:

• 使用公开可用的LLM接口 (内存禁用) 的实验研究.
• 使用了两个虚构的 vignettes (诊断和治疗) 与各种社会经济 (SES) 描述符.
• 每个图片在6个边境LLM每种条件上呈现10次,产生了480个响应.
• 通过比较对基于证据的指导方针的反应来评估准确性和偏见.

主要成果:

• 基础诊断准确率为36%,SES偏差差为45个百分点;接种疫苗使准确率提高到55%,偏差降低到27个百分点.
• 基础治疗准确率为51% ,SES偏差差为25个百分点;注射提高了准确率至63% ,降低了偏差至8个百分点.
• 干预效应在LLM之间有显著的差异,其中一些显示偏差消除,而另一些则具有悖论性的恶化.

结论:

• 一个简单的基于提示的干预可以减少社会经济偏见,并提高LLM临床建议的准确性.
• 快速工程为减轻医疗保健中的AI偏见提供了一种实际策略.
• 特定模型的性能变化需要持续监督和补充偏差缓解策略.