Una red nacional de laboratorios de seguridad de la inteligencia artificial en salud

Área de la Ciencia:

• Informática de la salud
• La inteligencia artificial en la medicina
• Ciencias de la regulación

Sus antecedentes:

• Las normas rigurosas son cruciales para los modelos de inteligencia artificial (IA) en el cuidado de la salud.
• La guía existente para la evaluación de la IA carece de aplicación a nivel nacional para los modelos actuales y emergentes.
• No existe actualmente un sistema público a nivel nacional para la evaluación objetiva y el monitoreo continuo de la IA sanitaria en entornos clínicos.

Objetivo del estudio:

• Abordar la necesidad urgente de procedimientos a nivel nacional que garanticen la equidad, la idoneidad, la validez, la eficacia y la seguridad de la IA en el cuidado de la salud.
• Proponer el establecimiento de una red nacional de laboratorios de seguridad de la IA en salud.
• Facilitar la evaluación objetiva y la evaluación continua de los modelos de IA para la salud.

Principales métodos:

• Resaltando la necesidad de una asociación público-privada para establecer una red nacional de laboratorios de seguridad de la IA en salud.
• Proponer la aplicación de las mejores prácticas de la comunidad para probar modelos de IA de salud dentro de esta red.
• Sugerir la generación de informes de rendimiento ampliamente compartibles para la gestión del ciclo de vida del modelo de IA.

Principales resultados:

• Identificó una brecha crítica en la aplicación a nivel nacional de las normas de evaluación de la IA en la atención médica.
• Destacó la ausencia de un mecanismo público para la evaluación objetiva y continua de la IA en materia de salud.
• Propuso un marco para una red de colaboración para garantizar la fiabilidad y la seguridad del modelo de IA.

Conclusiones:

• Es esencial contar con una red nacional de laboratorios de garantía de inteligencia artificial en el ámbito de la salud, con el apoyo de asociaciones público-privadas.
• Esta red permitirá pruebas estandarizadas e informes transparentes del rendimiento del modelo de IA.
• La implementación de dicha red apoyará la gestión responsable del ciclo de vida de la IA en diversos entornos clínicos y poblaciones.