El triaje médico como un punto de referencia de ética de la IA

Área de la Ciencia:

• Ética médica
• Inteligencia artificial
• Aprendizaje automático

Sus antecedentes:

• Evaluar la toma de decisiones éticas de la IA es crucial, especialmente en escenarios médicos de alto riesgo.
• Es posible que los parámetros de referencia existentes no reflejen plenamente la complejidad de los dilemas éticos del mundo real.
• Los incidentes de víctimas masivas presentan desafíos éticos únicos para los sistemas de IA.

Objetivo del estudio:

• Introducir el punto de referencia TRIAGE para evaluar la toma de decisiones éticas de la IA en eventos de víctimas masivas.
• Evaluar el rendimiento de los principales modelos de lenguaje grande (LLM) en los dilemas éticos médicos.
• Investigar el impacto de las indicaciones éticas y adversarias en el comportamiento de LLM.

Principales métodos:

• Desarrollo del punto de referencia TRIAGE utilizando los dilemas médicos de los profesionales de la salud.
• Evaluación de seis LLM destacados utilizando el índice de referencia TRIAGE.
• Análisis de las variaciones de rendimiento basadas en diferentes estrategias de motivación (principios éticos, motivaciones adversas).

Principales resultados:

• La mayoría de los LLM superaron las conjeturas aleatorias pero mostraron errores éticos significativos, particularmente los modelos de código abierto.
• Proporcionar principios éticos explícitos a los LLM disminuyó su rendimiento en TRIAGE.
• Las solicitudes adversarias redujeron sustancialmente la precisión de la toma de decisiones éticas de LLM.

Conclusiones:

• El rendimiento del LLM en ética médica es altamente sensible al contexto y al encuadre rápido.
• Los sistemas actuales de IA tienen limitaciones en la toma de decisiones éticas de alto riesgo dentro de la medicina.
• Se necesita más investigación para mejorar el razonamiento ético de la IA en situaciones críticas de atención médica.