BiasPruner: Mitigando la transferencia de sesgo en el aprendizaje continuo para el análisis de imágenes médicas...

Área de la Ciencia:

• Inteligencia artificial
• Aprendizaje automático
• Imágenes médicas

Sus antecedentes:

• El aprendizaje continuo (CL) permite que los modelos aprendan secuencialmente, pero a menudo transfiere sesgos.
• La transferencia de sesgo tiene un impacto negativo en la equidad y el rendimiento de la IA, especialmente en aplicaciones médicas críticas.
• Los métodos de CL existentes pueden amplificar correlaciones espurias, lo que lleva a un tratamiento desigual y a diagnósticos erróneos.

Objetivo del estudio:

• Proponer un nuevo marco, BiasPruner, para mitigar la propagación de sesgos en el aprendizaje continuo.
• Mejorar la equidad y la precisión en los modelos de IA, en particular para las tareas de imágenes médicas.
• Para abordar la amplificación de sesgos por los métodos convencionales de CL.

Principales métodos:

• BiasPruner identifica y recorta las unidades de red responsables del sesgo utilizando una puntuación de atribución de sesgo.
• Crea subredes basadas en datos para cada tarea, preservando el conocimiento previo y evitando el olvido catastrófico.
• Emplea un mecanismo de puertas agnóstico de tareas para predicciones robustas durante la inferencia.

Principales resultados:

• BiasPruner supera significativamente a los métodos CL de última generación en precisión y equidad.
• Se ha demostrado la eficacia de la mitigación del sesgo en las tareas de imágenes médicas como la lesión cutánea y la clasificación de rayos X del tórax.
• Impidió con éxito la transferencia de sesgo mientras mantenía capacidades de aprendizaje secuencial.

Conclusiones:

• BiasPruner ofrece una solución robusta para la propagación de sesgo en el aprendizaje continuo.
• El marco mejora la equidad y la fiabilidad de la IA, que son cruciales para una atención sanitaria equitativa.
• BiasPruner representa un avance significativo en el desarrollo de sistemas de IA confiables e imparciales.