Un marco auditable y verificado por fuente para el soporte de decisiones clínicas con IA: integración de la...

Área de la Ciencia:

• Informática Médica
• Inteligencia Artificial en la Atención Médica
• IA Confiable

Sus antecedentes:

• Los sistemas de soporte de decisiones clínicas (CDS) que utilizan inteligencia artificial (IA) muestran potencial pero enfrentan una adopción limitada debido a preocupaciones sobre la transparencia y la rendición de cuentas.
• La IA generativa y basada en datos a menudo carece de explicaciones claras para sus recomendaciones, lo que dificulta la confianza y la verificación clínica.
• La IA existente en la atención médica tiene dificultades para demostrar la base probatoria de sus resultados.

Objetivo del estudio:

• Presentar un marco conceptual para el soporte de decisiones clínicas basado en IA auditable y verificado por fuente.
• Mejorar la transparencia, verificabilidad y rendición de cuentas en las recomendaciones de atención médica impulsadas por IA.
• Mejorar la confianza del médico y la preparación regulatoria para la IA en entornos clínicos.

Principales métodos:

• Integración de una base de conocimiento médico curada con metadatos de procedencia.
• Utilización de un motor de razonamiento aumentado por recuperación (RAG) para vincular las recomendaciones con las directrices y las fuentes revisadas por pares.
• Implementación de un mecanismo de registro de auditoría a prueba de manipulaciones para registrar los procesos del sistema y la evidencia.

Principales resultados:

• El artículo presenta un diseño de sistema sintetizado, no un nuevo algoritmo o prototipo.
• El marco propuesto tiene como objetivo mejorar la trazabilidad de las recomendaciones de la IA vinculándolas a fuentes verificables.
• Aborda desafíos clave que incluyen la gobernanza del conocimiento, la fidelidad de las citas, el sesgo, la usabilidad, la privacidad y la alineación regulatoria.

Conclusiones:

• El marco conceptual proporciona un camino para desarrollar un soporte de decisiones clínicas de IA auditable y confiable.
• Abordar los desafíos de factibilidad es crucial para una implementación y validación exitosas.
• Se propone una hoja de ruta de evaluación por etapas que involucre simulaciones e investigación de usuarios para una futura validación empírica.