Aplicación de inteligencia artificial explicable que se integra con el registro electrónico de salud en oncología

Área de la Ciencia:

• La inteligencia artificial en la medicina.
• Oncología Ciencia de datos de la Oncología.
• La informática clínica es la informática clínica.

Sus antecedentes:

• El aprendizaje automático (ML) y el aprendizaje profundo (DL) son prometedores para mejorar la atención oncológica a través de registros electrónicos de salud (EHR).
• La opacidad del modelo dificulta la confianza del clínico, la aprobación regulatoria y el despliegue seguro de estas poderosas herramientas.
• Los métodos de inteligencia artificial explicable (XAI) son cruciales para hacer que los modelos ML / DL sean comprensibles y procesables en entornos clínicos.

Objetivo del estudio:

• Para resumir los enfoques actuales de XAI para las tareas de oncología basadas en EHR.
• Identificar los desafíos clave en la evaluación, reproducibilidad, utilidad clínica y equidad de XAI en oncología.
• Proponer recomendaciones y direcciones de investigación para acelerar la adopción segura de XAI en oncología.

Principales métodos:

• Revisión de las categorías comunes de XAI aplicadas a los datos de EHR, incluida la importancia de las características, los modelos interpretables, los mecanismos de atención y la extracción de reglas.
• Análisis de métodos prevalecientes como modelos basados en árboles con SHapley Additive exPlanations (SHAP) y modelos aditivos generalizados.
• Identificación de las brechas de investigación relacionadas con las normas de presentación de informes, la evaluación de la utilidad clínica, la reproducibilidad, la validación externa y la equidad.

Principales resultados:

• Los modelos basados en árboles con explicaciones SHAP son dominantes en estudios recientes de EHR.
• Los modelos intrínsecamente interpretables (por ejemplo, modelos aditivos generalizados, conjuntos de reglas) se utilizan cuando la transparencia es primordial.
• Existen brechas significativas en los informes consistentes, la evaluación formal de la utilidad clínica, la reproducibilidad, la validación externa y las consideraciones de equidad.

Conclusiones:

• La integración de XAI con modelos de oncología impulsados por EHR es prometedora, pero requiere un mayor desarrollo.
• Es esencial abordar los desafíos en los marcos de evaluación, las tuberías reproducibles, la validación y el diseño consciente de la equidad.
• Dar prioridad a las explicaciones clínicamente significativas y estudiar su impacto en la toma de decisiones y los resultados de los pacientes es fundamental para avanzar en el campo.