Censura política en modelos de lenguaje grandes originarios de China

Área de la Ciencia:

• Inteligencia Artificial
• Procesamiento del Lenguaje Natural
• Impacto Social de la Tecnología

Sus antecedentes:

• Los modelos de lenguaje grandes (LLM) a menudo exhiben sesgos que reflejan patrones sociales.
• Una fuente de sesgo menos explorada en los LLM es la censura gubernamental.
• Comprender el impacto de la censura es crucial para el desarrollo y la implementación de la IA.

Objetivo del estudio:

• Investigar la influencia de la censura gubernamental en los modelos de lenguaje grandes (LLM).
• Comparar el sesgo político en LLM desarrollados en China frente a los desarrollados en otros lugares.
• Diferenciar el sesgo de censura de otras fuentes potenciales de sesgo de LLM.

Principales métodos:

• Análisis comparativo de modelos fundacionales originarios de China y regiones no chinas.
• Evaluación utilizando una batería de 145 preguntas políticas de diferentes niveles de sensibilidad.
• Evaluación de las tasas de respuesta, la longitud de la respuesta y la precisión de la respuesta.

Principales resultados:

• Los LLM originarios de China demostraron tasas de rechazo significativamente más altas, respuestas más cortas e imprecisiones crecientes para indicaciones políticas en comparación con los modelos no chinos.
• Las disparidades disminuyeron para indicaciones menos sensibles políticamente, lo que indica que la censura es un factor clave.
• Si bien el idioma (chino vs. inglés) influyó en las respuestas, el origen del LLM (China vs. no China) mostró un efecto más pronunciado en el sesgo de censura.

Conclusiones:

• La censura gubernamental, impulsada por presiones regulatorias para restringir el contenido político, parece ser un contribuyente significativo al sesgo político en los LLM.
• Los datos observacionales sugieren una correlación entre los entornos regulatorios y los comportamientos de censura en los modelos de IA.
• Se necesita más investigación para establecer vínculos causales, pero los hallazgos resaltan la necesidad de transparencia en el desarrollo de la IA con respecto a la moderación de contenido político.