Más allá de las explicaciones post hoc: un marco integral para la IA responsable en imágenes médicas a través de la...

Área de la Ciencia:

• Imágenes médicas
• Inteligencia artificial
• Inteligencia artificial explicable

Sus antecedentes:

• El aprendizaje profundo en imágenes médicas ofrece avances diagnósticos, pero se enfrenta a barreras de adopción clínica debido a su naturaleza de "caja negra".
• Los métodos actuales de IA explicable (XAI) a menudo proporcionan explicaciones post hoc, lo que podría tergiversar la confianza del modelo de IA e impactar en las decisiones clínicas.

Objetivo del estudio:

• Revisar y metaanalizar sistemáticamente la fidelidad, la estabilidad y las compensaciones de rendimiento de los métodos XAI en todas las modalidades de imágenes médicas.
• Evaluar el impacto de la perturbación acústica en la estabilidad del XAI en radiología, patología y oftalmología.
• Proponer un marco de rendición de cuentas para el desarrollo y despliegue de IA confiable en entornos clínicos.

Principales métodos:

• Revisión sistemática y metanálisis de 67 estudios que evaluaron el XAI en 23 aplicaciones de radiología, 19 de patología y 25 de oftalmología.
• Análisis de 847 estudios identificados para comparar la fidelidad de LIME, SHAP y Grad-CAM.
• Evaluación de la estabilidad del XAI bajo perturbaciones acústicas en diferentes modalidades de imágenes médicas.

Principales resultados:

• LIME demostró una fidelidad superior (0,81) en comparación con SHAP (0,38) y Grad-CAM (0,54) en todas las modalidades.
• Las explicaciones post hoc mostraron una baja estabilidad bajo el ruido; el SHAP se degradó en un 53% en oftalmología frente al 11% en radiología.
• Los modelos interpretables incurrieron en una penalización de rendimiento AUC consistente del 5- 7%, con patrones de estabilidad específicos de la modalidad observados.

Conclusiones:

• Los enfoques de XAI adaptados son esenciales debido a los patrones de estabilidad específicos de la modalidad.
• Se propone un marco de rendición de cuentas basado en tres pilares, que hace hincapié en la transparencia, el diseño interpretable y el uso cuidadoso de explicaciones post hoc con cuantificación de la incertidumbre.
• Este marco tiene por objeto mejorar la calidad de la toma de decisiones clínicas y la seguridad de los pacientes mediante el fomento de sistemas de IA genuinamente responsables.