Evaluación del rendimiento de la explicación para los sistemas de apoyo a la decisión clínica para los datos que no...

Área de la Ciencia:

• La informática médica
• Inteligencia artificial en el cuidado de la salud
• Interacción hombre-ordenador

Sus antecedentes:

• Los sistemas de apoyo a la decisión clínica basados en el aprendizaje automático (CDSS) se utilizan cada vez más en la atención médica.
• La IA explicable (XAI) tiene como objetivo mejorar la transparencia e interpretabilidad de estos sistemas.
• Las aplicaciones de datos sin imágenes en CDSS son un área de investigación en crecimiento.

Objetivo del estudio:

• Revisar la eficacia de XAI en el CDSS basado en ML utilizando datos que no sean de imágenes.
• Evaluar el impacto de XAI en la calidad de la explicación, la toma de decisiones clínicas, la confianza del usuario y la usabilidad.
• Incorporar las perspectivas del clínico y del paciente en la adopción de XAI en la atención médica.

Principales métodos:

• Revisión sistemática de los estudios metodológicos y centrados en la usabilidad.
• Se ha buscado en las principales bases de datos científicas (Web of Science, Scopus, PubMed, etc.). En el caso de los
• Utilizó combinaciones de palabras clave centradas en XAI, CDSS, métricas de evaluación y estudios de usuarios.

Principales resultados:

• La investigación multidisciplinaria de XAI en el cuidado de la salud ha aumentado significativamente desde 2023.
• Las evaluaciones de métodos mixtos que combinan métricas técnicas y centradas en el ser humano son comunes.
• Las propiedades clave de XAI incluyen confiabilidad, interpretabilidad y transparencia, pero la participación del paciente y la usabilidad de la explicación están poco exploradas.

Conclusiones:

• Los marcos de evaluación centrados en el ser humano que equilibran la fidelidad técnica y la interpretabilidad son esenciales para la adopción de XAI.
• La investigación futura debe priorizar los marcos de IA / XAI centrados en el ser humano y las evaluaciones del mundo real.
• La colaboración de múltiples partes interesadas es clave para mejorar el CDSS, mejorar los diagnósticos y permitir una atención personalizada segura.