La IA explicable en la medicina: los desafíos de la integración de la IAX en la futura rutina clínica

Área de la Ciencia:

• La inteligencia artificial médica
• Sistemas de apoyo a la toma de decisiones clínicas
• Interacción hombre-computadora

Sus antecedentes:

• Los métodos actuales de IA explicable (XAI) carecen de la flexibilidad y el enfoque clínico necesarios para una integración efectiva en la práctica médica.
• Los enfoques existentes de XAI no abordan adecuadamente las necesidades matizadas de los profesionales de la salud para comprender las predicciones de la IA.
• La demanda de IA transparente e interpretable en la medicina está creciendo, sin embargo, las soluciones prácticas siguen siendo difíciles de alcanzar.

Objetivo del estudio:

• Proponer una hoja de ruta conceptual para la integración de XAI avanzada en los entornos médicos del futuro.
• Esbozar los datos clave deseados para el desarrollo de sistemas XAI amigables con los clínicos.
• Explorar los desafíos y requisitos para que la IA actúe como participante colaborativo en entornos clínicos.

Principales métodos:

• Desarrollo de un marco conceptual basado en un escenario imaginario de tratamiento del ictus.
• Identificación y definición de tres elementos básicos deseados para la IAX avanzada: dependencia del contexto/usuario, diálogo genuino y capacidades sociales.
• Enfoque interdisciplinario que integra XAI médico, la práctica clínica y los conceptos filosóficos.

Principales resultados:

• Se identificaron tres requisitos cada vez mayores para la XAI médica: explicaciones específicas del contexto / usuario, diálogo entre IA y humanos e inteligencia social de IA.
• Ilustró el surgimiento de estos desafíos dentro de un flujo de trabajo clínico utilizando un escenario de accidente cerebrovascular.
• Se han definido conceptos clave como el "diálogo genuino" y la "capacidad social" en el contexto de la IA médica.

Conclusiones:

• La IA médica futura requiere una explicabilidad sofisticada más allá de las capacidades actuales de XAI.
• El logro de una integración clínica efectiva de la IA requiere sistemas de IA capaces de interacción consciente del contexto, diálogo genuino y comprensión social.
• La hoja de ruta propuesta orienta el desarrollo de futuros sistemas XAI como socios colaboradores en la toma de decisiones médicas complejas.