人口统计学在耳鼻喉科的代表通过人工智能文字到图像平台
Ariana L Shaari1, Anthony M Saad1, Aman M Patel1
1Department of Otolaryngology-Head and Neck Surgery Rutgers New Jersey Medical School Newark New Jersey USA.
Laryngoscope investigative otolaryngology
|May 20, 2025
概括
人工智能 (AI) 图像生成器在耳鼻喉科医生的描绘中显示出明显的种族和性别偏见,过度代表白人男性,并代表少数民族和女性. 随着人工智能融入医疗保健,意识至关重要.
科学领域:
- 医学成像和人工智能 医学成像和人工智能
- 医学伦理和偏见 医学伦理和偏见
- 耳鼻喉科 劳动力多样性 劳动力多样性
背景情况:
- 人工智能 (AI) 文本到图像生成器可以延续社会刻板印象.
- 了解人工智能对专业代表性的影响对于道德的人工智能部署至关重要.
研究的目的:
- 在人工智能生成的耳鼻喉科医生肖像中调查种族和性别偏见.
- 将AI输出人口统计数据与实际耳鼻喉科劳动力数据进行比较.
- 评估人工智能是否在专业图像中放大了现有的社会偏见.
主要方法:
- 在29个类别中使用DALL-E3,Runway和Midjourney生成了1740个耳鼻喉科医生的AI肖像.
- 两个审稿人评估了人工智能生成的每个图像的种族和性别.
- 统计分析比较了人工智能输出人口统计数据与既定的劳动力人口统计数据.
主要成果:
- 人工智能产生的耳鼻喉科医生中有88%是白人,4%是黑人,6%是亚洲人,88%是男性.
- 观察到女性 (12%) 和种族少数群体的代表性明显不足.
- 与DALL-E3和Midjourney相比,跑道平台显示的白人和男性描绘的比例更高.
结论:
- 人工智能文本到图像平台在专业描绘中表现出明显的种族和性别偏见.
- 这些偏见,包括女性和少数群体的代表性不足,有可能强化社会刻板印象.
- 意识和缓解策略至关重要,因为人工智能工具在医疗保健环境中变得越来越普遍.
