Desafíos en la vigilancia posterior al mercado de los modelos de predicción clínica

Área de la Ciencia:

• Informática clínica
• La inteligencia artificial en la medicina
• Investigación en servicios de salud

Sus antecedentes:

• Los modelos predictivos de inteligencia artificial (IA) son cruciales para los flujos de trabajo clínicos, incluidos el pronóstico y el apoyo a las decisiones.
• La degradación del rendimiento posterior a la implementación debido a los cambios en los conjuntos de datos es un desafío importante para los modelos de IA.
• Las directrices regulatorias actuales exigen un monitoreo continuo, pero faltan estrategias prácticas para la evaluación del rendimiento de la IA.

Objetivo del estudio:

• Abordar los desafíos en la evaluación del rendimiento posterior a la implementación de modelos predictivos de IA.
• Para resaltar el problema de las intervenciones médicas confusas que sesgan la evaluación del rendimiento de la IA.
• Explorar posibles soluciones y la necesidad de métodos de validación fiables para la IA en el cuidado de la salud.

Principales métodos:

• Discusión de los desafíos de la evaluación posterior al despliegue, centrándose en las intervenciones médicas de confusión.
• Revisión de las soluciones propuestas, como la retención de los resultados del modelo, el seguimiento de los resultados y la inclusión de intervenciones en los modelos.
• Exploración del modelado causal avanzado como método de validación potencial.

Principales resultados:

• Las intervenciones médicas confusas pueden sesgar la evaluación del rendimiento de la IA, indicando falsamente la descomposición del modelo.
• Las soluciones existentes tienen limitaciones éticas o prácticas que obstaculizan una evaluación efectiva posterior a la implementación.
• La falta de un monitoreo efectivo conduce a modelos de IA potencialmente dañinos y no evaluados.

Conclusiones:

• El modelado causal avanzado ofrece un enfoque prometedor para la validación confiable posterior a la implementación de modelos de IA.
• Las decisiones basadas en la evidencia que consideran las vías causales son esenciales para las actualizaciones del modelo de IA en entornos clínicos dinámicos.
• El desarrollo y la validación de métodos efectivos de monitoreo posterior al despliegue es fundamental para garantizar la utilidad sostenida de la IA y evitar daños a los pacientes.