"¡Fuego! ¡No disparen! " Investigando los efectos de los sistemas autónomos en la toma de decisiones de agencia y...

Área de la Ciencia:

• Interacción hombre-computadora
• La ética
• Ciencias cognitivas

Sus antecedentes:

• Los sistemas autónomos se integran cada vez más en la vida cotidiana y en los procesos de toma de decisiones críticas.
• Las interacciones con máquinas inteligentes pueden alterar el juicio humano y las consideraciones éticas.
• Comprender el impacto de la IA en la agencia humana y el razonamiento moral es crucial.

Objetivo del estudio:

• Investigar la influencia de las recomendaciones de los sistemas autónomos en la toma de decisiones morales humanas.
• Examinar los efectos de los diferentes niveles de autonomía del sistema en la acción y responsabilidad humanas.
• Para analizar la toma de decisiones en un dilema moral simulado (problema trolley).

Principales métodos:

• Se diseñó una configuración experimental ad hoc para el estudio.
• Los participantes (n=31) participaron en una simulación de campo de batalla que incluía un dilema similar al carro.
• Se tomaron decisiones basadas en valores morales contradictorios y recomendaciones de IA.

Principales resultados:

• La toma de decisiones morales humanas en escenarios desafiantes fue influenciada significativamente por las recomendaciones del sistema autónomo.
• Los niveles más altos de autonomía del sistema se correlacionan con una disminución del juicio subjetivo de responsabilidad.
• La interacción con sistemas inteligentes puede alterar tanto las elecciones morales como el sentido de la responsabilidad personal.

Conclusiones:

• Los sistemas autónomos pueden afectar los juicios éticos humanos y los procesos de toma de decisiones.
• La delegación de decisiones a la IA puede disminuir el sentido de responsabilidad de un individuo.
• La investigación adicional es esencial para comprender las implicaciones de la interacción entre humanos y IA en dominios sensibles.