Interpretabilidad mecanicista del aprendizaje por refuerzo en la coordinación de la atención de Medicaid

Área de la Ciencia:

• Inteligencia Artificial en el cuidado de la salud.
• La interpretabilidad del aprendizaje automático.
• Equidad en salud Equidad en salud.

Sus antecedentes:

• Las políticas de aprendizaje por refuerzo (RL) se utilizan cada vez más en el cuidado de la salud, pero sus procesos de toma de decisiones pueden ser opacos.
• Asegurar la equidad e identificar posibles errores en los algoritmos de RL es crucial para una implementación segura y equitativa en entornos clínicos.
• Los programas de coordinación de la atención de Medicaid presentan un entorno complejo para el apoyo algorítmico a las decisiones.

Objetivo del estudio:

• Para aclarar las vías de razonamiento de una política de RL utilizada para la coordinación de la atención de Medicaid.
• Desarrollar una taxonomía completa de los errores encontrados por la política de RL.
• Implementar barreras de seguridad conscientes de la equidad para mitigar las disparidades en la toma de decisiones algorítmicas.

Principales métodos:

• Se realizó una auditoría de interpretabilidad retrospectiva utilizando análisis de atención, explicaciones de Shapley y escaso descubrimiento de características de autoencoder.
• Se empleó la adjudicación clínica a ciegas para revisar casos divergentes.
• El estudio analizó 250.000 decisiones de intervención de los programas de coordinación de atención de Medicaid en Washington, Virginia y Ohio.

Principales resultados:

• El modelo conformal logró un AUC de 0,80, compensando el 89,5% de las decisiones con bajo daño residual.
• Los escasos autoencoders identificaron siete motivos de razonamiento que vinculan los determinantes sociales con los resultados clínicos.
• La taxonomía de errores destacó errores de premisa (48%), errores de calibración (27%) y puntos ciegos contextuales (25%).
• La optimización de la equidad redujo la disparidad entre grupos raciales en un 37% y la disparidad entre grupos sexuales en un 28%.

Conclusiones:

• La interpretabilidad mecanicista transforma la IA opaca en sistemas auditables de apoyo a la decisión.
• Este enfoque proporciona un marco de gobernanza para el despliegue responsable de la IA clínica.
• La taxonomía de errores desarrollada y las barreras de equidad son esenciales para una IA confiable en el cuidado de la salud.