La IA genera decisiones racistas encubiertas sobre las personas basadas en su dialecto

Área de la Ciencia:

• Inteligencia artificial
• La sociolingüística
• Ciencias de la computación

Sus antecedentes:

• Los modelos de lenguaje (LM) son ampliamente utilizados, pero se sabe que perpetúan los sesgos raciales.
• Las investigaciones anteriores se centraron en el racismo abierto, descuidando formas más sutiles como el racismo encubierto.
• El racismo encubierto, particularmente después de los derechos civiles, es un área en desarrollo del estudio de las ciencias sociales.

Objetivo del estudio:

• Investigar si el racismo encubierto, específicamente el prejuicio dialectal, se manifiesta en grandes modelos lingüísticos.
• Para comparar los estereotipos encubiertos y abiertos de los LM con respecto a los afroamericanos y los hablantes de inglés afroamericano (AAE).
• Evaluar el impacto de las estrategias actuales de mitigación de sesgos en estos estereotipos.

Principales métodos:

• Análisis de los estereotipos incrustados en los grandes modelos de lenguaje.
• Comparación de estereotipos generados por LM con estereotipos humanos registrados experimentalmente.
• Evaluación de técnicas de mitigación de sesgo como la alineación de preferencias humanas.

Principales resultados:

• Los LM muestran un prejuicio de dialecto significativo contra los hablantes de inglés afroamericano (AAE).
• Los estereotipos de LM para los hablantes de AAE son más negativos que los estereotipos humanos registrados.
• Los estereotipos abiertos para los afroamericanos en LM son paradójicamente más positivos.
• Los métodos de mitigación de sesgo como la alineación de preferencias humanas amplifican la disparidad entre los estereotipos encubiertos y abiertos.

Conclusiones:

• Los modelos lingüísticos encarnan el racismo encubierto a través del prejuicio dialectal, con consecuencias sociales potencialmente graves.
• Las prácticas actuales de mitigación de sesgos son insuficientes y pueden oscurecer el racismo sistémico más profundo en los LM.
• Se necesita una reevaluación urgente del desarrollo y despliegue de LM para aplicaciones de IA justas y seguras.