La semántica derivada automáticamente de los corpus de lenguaje contiene sesgos similares a los humanos

Área de la Ciencia:

• Inteligencia artificial
• Procesamiento del lenguaje natural
• Ciencias sociales computacionales

Sus antecedentes:

• El aprendizaje automático (ML) deriva la inteligencia artificial mediante la identificación de patrones en los datos.
• Los cuerpos del lenguaje humano contienen sesgos sociales implícitos.
• La prueba de asociación implícita (IAT) mide la fuerza de las asociaciones automáticas entre conceptos.

Objetivo del estudio:

• Investigar si los modelos de aprendizaje automático entrenados en el lenguaje humano exhiben sesgos semánticos similares a los humanos.
• Determinar si los modelos ML pueden replicar los sesgos medidos por el IAT.
• Explorar el potencial del aprendizaje automático para identificar y mitigar los sesgos culturales.

Principales métodos:

• Aplicó un modelo estadístico de aprendizaje automático a un gran corpus de texto de la World Wide Web.
• Entrenó el modelo con datos de texto estándar.
• Se evaluaron las asociaciones semánticas del modelo frente a los sesgos humanos conocidos, incluidos los medidos por el IAT.

Principales resultados:

• El modelo ML replicó un espectro de sesgos semánticos humanos, reflejando los resultados de IAT.
• Se observaron sesgos en varios dominios, incluidos los moralmente neutrales (insectos, flores), problemáticos (raza, género) y verídicos (género y carreras / nombres).
• Los corpora de texto imprimen con precisión los sesgos humanos históricos, que se pueden recuperar a través del análisis de ML.

Conclusiones:

• Los modelos de aprendizaje automático entrenados en datos de texto del mundo real heredan y reflejan sesgos semánticos humanos.
• Los datos de texto sirven como un repositorio de sesgos históricos, que se pueden cuantificar utilizando ML.
• Los métodos desarrollados ofrecen un enfoque prometedor para detectar y abordar los sesgos culturales y tecnológicos.