一位外科医生的肖像:人工智能反思

科学领域:

• 医疗人工智能 医疗人工智能
• 计算机视觉 计算机视觉
• 技术对社会的影响 技术对社会的影响

背景情况:

• 文本到图像人工智能 (AI) 模型是越来越受欢迎的工具,用于从文本提示生成视觉效果.
• 在互联网数据上训练的AI模型可能会继承并延续社会偏见,类似于大型语言模型.
• 研究人工智能反映或强化医疗保健专业中的刻板印象的潜力至关重要.

研究的目的:

• 检查三种常见的文本对图像人工智能系统是否复制与外科医生和医疗保健专业人员相关的刻板印象.
• 评估人工智能生成的医疗保健专业人员图像中的多样性 (种族和性别).
• 了解人工智能在医疗保健中的影响及其强化历史偏见的潜力.

主要方法:

• 查询三个不同的文本到图像人工智能平台与与外科医生和医疗保健专业人员有关的提示.
• 分析生成的图像以寻找常见的专业属性 (服装,设备,设置).
• 在人工智能产生的专业描述中评估可见的种族和性别多样性.

主要成果:

• 所有被查询的人工智能平台都成功地描绘了外科医生和医疗保健工作者共同的专业元素.
• 人工智能系统在生成图像中观察到明显的种族和性别多样性方面存在显著差异.
• 人工智能系统倾向于低估多样性,可能强化历史刻板印象.

结论:

• 文本到图像的人工智能系统可以延续外科医生和医疗保健专业人员的历史刻板印象.
• 人工智能产出的缺乏多样性凸显了对偏见缓解策略的需求.
• 了解和解决人工智能偏见至关重要,因为这些技术越来越多地融入医疗保健环境.