Un enfoque ecosistémico para gobernar a los actores comerciales en la IA de la salud

Área de la Ciencia:

• Gobernanza de la inteligencia artificial en el cuidado de la salud
• Ciencias de la regulación
• Evaluación de la tecnología médica

Sus antecedentes:

• La creciente adopción de la inteligencia artificial (IA) en la medicina requiere evaluar los marcos regulatorios de los Estados Unidos.
• Los modelos de gobernanza actuales luchan con las brechas de conocimiento de los desarrolladores, la responsabilidad poco clara de los daños relacionados con la IA y la evidencia insuficiente de seguridad y eficacia.

Objetivo del estudio:

• Evaluar críticamente la efectividad del entorno regulatorio actual de los Estados Unidos para la IA en el cuidado de la salud.
• Identificar los desafíos en el gobierno de las aplicaciones de IA en el sector de la salud.
• Proponer un enfoque basado en el ecosistema para mejorar la gobernanza de la IA en el cuidado de la salud.

Principales métodos:

• Análisis de los desafíos regulatorios existentes en los Estados Unidos para la IA en el cuidado de la salud.
• Identificación de las partes interesadas clave y sus roles potenciales en la gobernanza de la IA.
• Abogar por un enfoque ecosistémico para desarrollar soluciones de gobernanza.

Principales resultados:

• Los desafíos clave incluyen la excesiva dependencia de la autorregulación, la falta de conciencia reguladora de los desarrolladores, la responsabilidad indefinida por los daños de la IA y la transparencia limitada en la evaluación de la seguridad y la eficacia de la IA.
• Se propone un enfoque ecosistémico para abordar estas lagunas de gobernanza.
• Se identifican acciones específicas para la sociedad civil, los financiadores, los compradores y los pagadores para avanzar en la gobernanza de la IA.

Conclusiones:

• El sistema regulatorio actual de los Estados Unidos es insuficiente para gobernar la IA en el cuidado de la salud de manera efectiva.
• Un enfoque ecosistémico de múltiples partes interesadas es crucial para mejorar la transparencia y la evaluación independiente de la IA en el cuidado de la salud.
• La sociedad civil, los financiadores, los compradores y los pagadores pueden desempeñar un papel vital para llenar las lagunas regulatorias y garantizar el despliegue responsable de la IA en el cuidado de la salud.