ChatGPT Rendimiento de salud en una prueba estructurada de recomendaciones de triaje

Área de la Ciencia:

• La informática médica es la informática médica.
• Inteligencia Artificial en el cuidado de la salud.
• Apoyo para la toma de decisiones clínicas.

Sus antecedentes:

• OpenAI lanzó ChatGPT Health en enero de 2026 como una herramienta de salud para el consumidor.
• Los sistemas de triaje impulsados por IA se están desarrollando cada vez más para uso público.

Objetivo del estudio:

• Para llevar a cabo una prueba de estrés estructurada de las recomendaciones de triaje de ChatGPT Health.
• Identificar posibles problemas de seguridad y modos de falla en el triaje médico impulsado por IA.

Principales métodos:

• Se realizó una prueba de estrés utilizando 60 viñetas escritas por médicos en 21 dominios clínicos.
• Se analizaron un total de 960 respuestas bajo 16 condiciones factoriales.
• Se evaluó el impacto del sesgo de anclaje y la activación del mensaje de intervención en crisis.

Principales resultados:

• El rendimiento mostró un patrón invertido en forma de U, con fallas en los extremos clínicos (no urgentes y de emergencia).
• El sistema no evaluó el 52% de las emergencias estándar, incluida la cetoacidosis diabética y la insuficiencia respiratoria inminente.
• El sesgo de anclaje cambió significativamente las recomendaciones de triaje hacia una atención menos urgente (OR 11.7).
• Los mensajes de intervención de crisis para la ideación suicida se activaron de manera impredecible.

Conclusiones:

• ChatGPT Health demostró preocupaciones significativas de seguridad, incluidas las emergencias de alto riesgo perdidas y la intervención de crisis inconsistente.
• La validación prospectiva es crucial antes del despliegue a escala de consumo de los sistemas de triaje de IA.
• Los sistemas de triaje de IA requieren pruebas rigurosas para garantizar la seguridad y eficacia del paciente.