人工智能在整形外科的肖像:使用文字到图像生成器对性别和种族多样性的分析
Mary Morcos1, Jessica Duggan1, Jason Young1,2
1Harvard Medical School, Boston, Massachusetts.
The Journal of bone and joint surgery. American volume
|July 18, 2024
概括
人工智能图像生成器经常误导整形外科医生,主要显示白人男性. 虽然DALL·E 2显示了更好的多样性,但其他AI工具延续了偏见,影响了对这个医学领域的看法.
科学领域:
- 医疗成像医学成像
- 人工智能的人工智能
- 社会的感知 社会的感知
背景情况:
- 提高人工智能文本到图像生成器的可访问性.
- 探索社会观念的新途径.
- 对骨科外科医生多样性的AI生成图像进行评估.
研究的目的:
- 在人工智能生成的整形外科医生图像中检查性别和种族多样性.
- 将AI的代表性与美国骨科外科医生学会 (AAOS) 人口普查进行比较.
- 识别AI描绘医疗专业人员的潜在偏见.
主要方法:
- 使用了五个人工智能文本到图像生成器 (DALL·E 2,跑道,中途旅行,ImagineAI,JasperArt).
- 每个生成器使用特定的搜索查询生成240个图像.
- 两位评论员对人口统计学进行了分类;与2018年AAOS人口普查数据进行比较.
主要成果:
- 人工智能图像主要描绘的是白人 (82.8%) 男 (94.5%) 外科医生,往往年长 (64.4% ≥50).
- 与AAOS人口普查相比,DALL·E 2显示女性和非白人外科医生的多样性增加.
- 中途旅行,跑道和ImagineAI的多样性显著下降.
结论:
- 人工智能图像生成显示了整形外科医生多样性的扭曲.
- 可能会影响公众的看法,并加强医疗保健差异.
- DALL·E 2和JasperArt显示出希望,但需要在其他AI工具中进行改进,以获得准确,包容的表示.
