El dilema social de los vehículos autónomos

Área de la Ciencia:

• Ética de la IA y sistemas autónomos
• Interacción hombre-ordenador
• La toma de decisiones morales en la tecnología

Sus antecedentes:

• Los vehículos autónomos (VA) presentan dilemas éticos complejos, en particular en los escenarios de accidentes inevitables.
• La necesidad de algoritmos morales predefinidos en los AV es fundamental para su despliegue seguro y aceptable.
• Equilibrar la seguridad de los peatones y los ocupantes de los vehículos es un desafío importante en la programación AV.

Objetivo del estudio:

• Investigar la preferencia del público con respecto a los algoritmos éticos que rigen la toma de decisiones de vehículos autónomos en situaciones críticas.
• Explorar la dicotomía entre el comportamiento AV deseado para otros versus la auto-preferencia en posibles escenarios de accidente.
• Evaluar el impacto del cumplimiento normativo de los algoritmos utilitarios de AV en la aceptación y adopción del público.

Principales métodos:

• Realizó seis estudios en línea utilizando Amazon Mechanical Turk para recopilar respuestas de los participantes.
• Presentó a los participantes escenarios éticos que requieren que los AV tomen decisiones de vida o muerte.
• Analizó las preferencias de los participantes para el comportamiento AV (utilitario frente a la autoconservación) y los enfoques regulatorios.

Principales resultados:

• Los participantes favorecieron los AV utilitarios (sacrificando pasajeros por el bien común) para otros, pero prefirieron los AV de autoprotección para sí mismos.
• Se encontró una desaprobación significativa con respecto a la aplicación obligatoria de las regulaciones utilitarias de AV.
• La voluntad de comprar vehículos autónomos disminuyó cuando las regulaciones utilitarias se percibieron como aplicadas.

Conclusiones:

• La aceptación pública de los AV está influenciada por un conflicto entre los ideales éticos altruistas y el interés propio.
• La exigencia de algoritmos utilitarios puede obstaculizar la adopción de AV, lo que podría conducir a más víctimas al retrasar el uso de una tecnología más segura.
• Los futuros marcos éticos de AV deben tener en cuenta las preferencias públicas matizadas para garantizar una implementación generalizada y segura.