Modelos de auditoría para suprimir predicciones deficientes de inteligencia artificial que mejoran el rendimiento...

Área de la Ciencia:

• IA en el sector de la salud; Sistemas de apoyo a la decisión clínica; Equidad en el aprendizaje automático

Sus antecedentes:

• El aprendizaje automático (ML) se utiliza cada vez más en el sector de la salud, pero puede presentar inequidades en diferentes subpoblaciones.; La dependencia excesiva de los médicos en ML puede perpetuar los sesgos existentes.; La supresión de ML, que silencia las predicciones poco fiables, muestra potencial para mitigar estos problemas.

Objetivo del estudio:

• Evaluar el impacto de la supresión de ML en la equidad colaborativa entre médicos e IA.; Evaluar la incertidumbre de ML como métrica para auditar el rendimiento de ML.

Principales métodos:

• Se utilizaron datos de registros de salud electrónicos del Centro Médico de la Universidad de Vanderbilt y MIMIC-IV-ED.; Se predijeron resultados de pacientes (muerte, traslado a UCI, readmisión a los 30 días) utilizando árboles de aumento de gradiente y un modelo oráculo.; Se simuló la aceptación por parte de los médicos de las predicciones de ML y se midió el rendimiento (AUC) y la equidad (diferencia de probabilidades promediada).

Principales resultados:

• La supresión de ML superó a los médicos humanos solos cuando el rendimiento de ML era superior, sin degradar la equidad.; Cuando los médicos superaron a ML, la supresión no degradó significativamente la equidad.; La integración de la cuantificación de la incertidumbre mejoró los enfoques basados en la supresión.

Conclusiones:

• La auditoría de las predicciones de ML mediante supresión muestra la promesa de mejorar el rendimiento y la equidad colaborativa humano-IA.; La supresión aborda eficazmente los problemas derivados de la dependencia excesiva de modelos de ML subóptimos.