Un marco validado para la IA responsable en sistemas autónomos de atención médica

Área de la Ciencia:

• Tecnología de la salud
• Inteligencia Artificial (IA) en medicina
• Informática clínica

Sus antecedentes:

• Los sistemas autónomos impulsados por IA enfrentan barreras de adopción en la atención médica debido a preocupaciones de confiabilidad y seguridad.
• El trabajo conceptual existente requiere validación empírica para la aplicación práctica en entornos clínicos y regulatorios.

Objetivo del estudio:

• Presentar y validar empíricamente un marco refinado para la integración segura y responsable de la IA en la atención médica.
• Proporcionar orientación práctica para clínicos, desarrolladores, reguladores y organismos de adquisición.

Principales métodos:

• Se desarrolló un marco inicial a través de entrevistas semiestructuradas con 15 expertos de diversos dominios (clínico, técnico, ético, regulatorio).
• Se validó el marco con 10 nuevos participantes utilizando calificaciones cuantitativas y retroalimentación cualitativa.
• Se aseguró la alineación con estándares internacionales como ISO 21448 y el Marco de Gestión de Riesgos de IA de NIST.

Principales resultados:

• El marco refinado obtuvo altas puntuaciones de relevancia, claridad y usabilidad durante la validación.
• Los participantes respaldaron firmemente la utilidad práctica del marco para la adopción responsable de la IA.
• El marco comprende diez dimensiones en categorías técnicas, éticas y operativas.

Conclusiones:

• El marco validado ofrece una herramienta estructurada para evaluar y monitorear sistemas de IA autónomos en la atención médica.
• Aborda cuestiones críticas como la calidad de los datos, la explicabilidad, la equidad y la colaboración humano-IA.
• El marco facilita la integración responsable de la IA, superando las barreras de adopción en contextos clínicos y regulatorios.