Desenredar la transparencia de la IA en el espacio de regulación médica

Área de la Ciencia:

• Informática de la salud
• Inteligencia artificial
• Reglamento de los productos sanitarios

Sus antecedentes:

• La Inteligencia Artificial (IA) está avanzando rápidamente en el cuidado de la salud, lo que genera preocupaciones sobre la transparencia.
• La transparencia es crucial para garantizar la calidad, la seguridad y la fiabilidad de las tecnologías de IA en aplicaciones médicas.
• El significado de la transparencia de la IA en el cuidado de la salud es a menudo ambiguo y requiere una definición clara.

Objetivo del estudio:

• Examinar el concepto de transparencia de la IA en el cuidado de la salud.
• Diferenciar la transparencia de la IA de conceptos relacionados como la explicabilidad de la IA.
• Explorar los desafíos en la mejora de la transparencia para los usuarios de dispositivos médicos basados en IA.

Principales métodos:

• Revisión de la literatura sobre la transparencia de la IA en el cuidado de la salud.
• Análisis de los documentos de política para identificar el consenso emergente sobre la transparencia de la IA.
• Análisis de las razones de la transparencia de la IA por parte de las partes interesadas.

Principales resultados:

• La transparencia de la IA en el cuidado de la salud es esencial, pero carece de una definición universalmente aceptada.
• El consenso emergente distingue la transparencia de la IA de la explicabilidad de la IA.
• Existen desafíos clave en la provisión de información adecuada a los usuarios de dispositivos médicos de IA.

Conclusiones:

• Si bien la transparencia de la IA en los dispositivos médicos es reconocida como vital, un obstáculo significativo es la falta de claridad.
• Es fundamental definir el nivel de información adecuado para los diferentes contextos y partes interesadas.
• Todavía no se han establecido plenamente los métodos eficaces para transmitir información con el fin de alcanzar los objetivos de transparencia.