Comparación del razonamiento moral humano y de la IA: patrones sensibles al contexto más allá del sesgo utilitarista

Área de la Ciencia:

• Ética de la inteligencia artificial
• Moralidad computacional
• Procesamiento del lenguaje natural

Sus antecedentes:

• Los sistemas inteligentes se utilizan cada vez más en áreas éticamente sensibles.
• Es fundamental comprender los juicios morales de los modelos de lenguaje grandes (LLM).

Objetivo del estudio:

• Investigar los juicios morales de ChatGPT y Claude Sonnet.
• Determinar si las respuestas de los LLM se alinean con la ética deontológica o utilitarista.
• Comparar las respuestas morales de los LLM con las de participantes humanos.

Principales métodos:

• Investigación sistemática de las respuestas de los LLM a 12 escenarios morales.
• Comparación de las salidas de los LLM (ChatGPT, Claude Sonnet) con datos previos de participantes humanos.
• Análisis de la alineación de la elección moral con los marcos deontológicos frente a los utilitaristas.

Principales resultados:

• Los LLM exhiben juicios morales sensibles al contexto, no una tendencia utilitarista fija.
• Ambos modelos alternaron entre elecciones deontológicas y utilitaristas según los detalles del escenario.
• Los patrones de respuesta de los LLM mostraron distribuciones sutiles en lugar de una única orientación ética.

Conclusiones:

• La toma de decisiones morales de los LLM es matizada y depende del contexto.
• Estos hallazgos impactan la confianza y aceptación social de la IA en dominios sensibles.
• Se necesita más investigación para comprender los complejos compromisos morales en la IA.