Análisis interseccional de la IA generativa visual: el caso de la difusión estable

Área de la Ciencia:

• Ciencias de la computación
• Sociología
• Estudios de los medios de comunicación

Sus antecedentes:

• Las herramientas de IA generativa visual (vGenAI) se adoptan rápidamente para la creación de imágenes fotorrealistas.
• Estas tecnologías pueden reflejar y perpetuar los sesgos sociales y las estructuras de poder.
• Stable Diffusion (SD) es una destacada herramienta de código abierto vGenAI que requiere un examen crítico.

Objetivo del estudio:

• Analizar críticamente la estética y los sistemas de energía subyacentes en las imágenes generadas por difusión estable (SD).
• Investigar cómo el SD perpetúa las desigualdades sociales como el racismo, el sexismo y el colonialismo.
• Proponer un enfoque orientado a la justicia social para el desarrollo de vGenAI.

Principales métodos:

• Análisis visual e interseccional de 180 imágenes generadas por SD.
• Basándose en estudios feministas de ciencia y tecnología, estudios de medios visuales y teoría crítica.
• Examinar la estética, los contextos institucionales y las intersecciones del sistema de energía.

Principales resultados:

• Las imágenes de la SD perpetúan el sexismo, el racismo, la heteronormatividad y el abeltismo.
• Las imágenes generadas a menudo se convierten por defecto en representaciones blancas, sanas y masculinas.
• Se identificó una tendencia hacia representaciones culturales centradas en Europa y América del Norte.

Conclusiones:

• Las herramientas vGenAI como SD no son culturalmente o estéticamente neutrales.
• A través de estas tecnologías se reproducen continuamente imágenes dañinas y violentas.
• Se necesita un enfoque reparador orientado a la justicia social para abordar los daños causados por vGenAI.