Detección, caracterización y mitigación de sesgos raciales implícitos y explícitos en conjuntos de datos de atención...

Área de la Ciencia:

• Inteligencia artificial en el cuidado de la salud
• Equidad algorítmica
• Ciencia de los datos

Sus antecedentes:

• La creciente adopción de algoritmos de atención médica plantea preocupaciones sobre la perpetuación del sesgo contra los grupos desfavorecidos.
• Los métodos de mitigación de sesgo existentes se centran en la modificación del modelo, con esfuerzos limitados en las intervenciones a nivel de datos.
• Los conjuntos de datos de atención médica son propensos a sesgos que pueden afectar el rendimiento del algoritmo de diagnóstico y pronóstico.

Objetivo del estudio:

• Introducir AEquity, una nueva métrica que utiliza la aproximación de la curva de aprendizaje para identificar y mitigar el sesgo en los datos de atención médica.
• Demostrar la eficacia de AEquity en la recopilación y reetiquetado de conjuntos de datos guiados para mejorar la equidad algorítmica.
• Evaluar la robustez de AEquity a través de diversos conjuntos de datos, algoritmos y métricas de equidad.

Principales métodos:

• Se ha desarrollado una métrica de AEquity basada en la aproximación de la curva de aprendizaje para la detección y mitigación de sesgos.
• AEquity aplicado a conjuntos de datos de rayos X del tórax, datos de utilización de costos de atención médica y la Encuesta Nacional de Examen de Salud y Nutrición (NHANES).
• AEquity comparado con los métodos más avanzados, como la minimización y calibración empírica equilibrada.

Principales resultados:

• La recolección de datos guiada por AEquity redujo el sesgo en las radiografías de tórax en un 29% -96,5% (AUC).
• Se observó una reducción significativa del sesgo para las poblaciones interseccionales (pacientes negros en Medicaid) a través de múltiples métricas de equidad (por ejemplo, una reducción del 33,3% de FNR).
• AEquity superó la minimización y calibración de riesgos empíricos equilibrados, mostrando un rendimiento sólido en varios modelos de IA (CNN, Transformers, etc.). En el caso de los

Conclusiones:

• AEquity es una herramienta robusta y efectiva para mitigar el sesgo algorítmico a nivel de datos en el cuidado de la salud.
• La métrica demuestra una amplia aplicabilidad en diferentes conjuntos de datos, grupos demográficos y arquitecturas de aprendizaje automático.
• AEquity ofrece un enfoque prometedor centrado en los datos para mejorar la equidad en la IA de la salud.