在稳定扩散中,从提示到图像中揭示性别偏见

科学领域:

• 人工智能的人工智能
• 计算机视觉 计算机视觉
• 自然语言处理自然语言处理.

背景情况:

• 人们越来越担心在生成人工智能模型中存在的社会偏见.
• 对于文本到图像生成系统需要强大的评估方法.

研究的目的:

• 提出一个自动评估协议,用于文本到图像生成.
• 在稳定扩散中调查性别偏见的起源和延续.
• 分析偏差表现中的提示图像依赖性.

主要方法:

• 使用三重提示,根据性别指标变化.
• 在稳定扩散生成过程的多个阶段追踪偏差.
• 分析文本提示和生成图像之间的依赖关系.

主要成果:

• 性别偏见在所有内部生成阶段和最终图像中都很明显.
• 对象存在 (例如,仪器,服装) 和图像布局的性别差异.
• 中立提示生成的图像更接近男性相关的输出,而不是女性的输出.

结论:

• 性别偏见深深植根于稳定扩散的生成过程中.
• 提示图像依赖性在偏差延续中发挥着重要作用.
• 提供了一些建议,以减轻文本到图像生成中的偏差.