Opacidad algorítmica en la puntuación de riesgo de opioides y la necesidad de una regulación transparente de la IA

Área de la Ciencia:

• Informática de la Salud
• Farmacovigilancia
• Investigación de Servicios de Salud

Sus antecedentes:

• NarxCare® es un sistema patentado de puntuación de riesgo de opioides integrado en los Programas de Monitoreo de Medicamentos Recetados (PDMP).
• Se han planteado quejas de pacientes sobre el sistema NarxCare®.
• La precisión y fiabilidad de las herramientas de evaluación del riesgo de opioides son fundamentales para la seguridad del paciente y la prescripción adecuada.

Objetivo del estudio:

• Evaluar de forma independiente el rendimiento del sistema de puntuación de riesgo de opioides NarxCare®.
• Evaluar la precisión y las puntuaciones F1 del sistema frente a los puntos de referencia establecidos.
• Determinar si la incorporación de covariables socioeconómicas mejora la precisión del sistema.

Principales métodos:

• Modelos NarxCare® reconstruidos utilizando especificaciones técnicas.
• Se utilizaron datos del Programa de Monitoreo de Medicamentos Recetados (PDMP).
• Se incorporó la base de datos de reclamaciones del plan de salud cerrado IQVIA PharMetrics® Plus.
• Se incluyeron covariables socioeconómicas en el análisis.

Principales resultados:

• Los modelos reconstruidos demostraron valores de precisión significativamente por debajo del punto de referencia (0,01-0,32 frente a 0,75).
• Las puntuaciones F1 fueron sustancialmente más bajas que el punto de referencia (0,02-0,39 frente a 0,65).
• El rendimiento siguió siendo deficiente incluso después de agregar covariables socioeconómicas.

Conclusiones:

• El rendimiento del sistema NarxCare®, tal como se reconstruyó, está considerablemente por debajo de los puntos de referencia informados.
• Las bajas puntuaciones de precisión y F1 del sistema plantean preocupaciones sobre su fiabilidad en la evaluación del riesgo de opioides.
• Se necesitan una mayor validación y posibles mejoras para las herramientas de estratificación del riesgo de opioides.