La amenaza oculta de las alucinaciones en la clasificación binaria de la neumonía por rayos X del tórax

Área de la Ciencia:

• Análisis de imágenes médicas
• Inteligencia artificial en el cuidado de la salud
• Investigación radiológica

Sus antecedentes:

• Los modelos de aprendizaje profundo (DL) pueden exhibir 'alucinaciones', haciendo predicciones seguras pero incorrectas.
• Distinguir entre los subtipos de neumonía mediante radiografías de tórax (CXR) es un desafío debido a las características radiológicas superpuestas.
• La fiabilidad de los clasificadores binarios para identificar la neumonía específica del patógeno requiere una investigación exhaustiva.

Objetivo del estudio:

• Evaluar si los clasificadores binarios aprenden las características específicas de la enfermedad para los subtipos de neumonía en los CXR.
• Evaluar la utilidad de las medidas de incertidumbre en la clasificación de la neumonía específica del patógeno.
• Investigar el fenómeno de las "alucinaciones" en los clasificadores DL que distinguen la neumonía.

Principales métodos:

• Se entrenaron dos clasificadores binarios para diferenciar la neumonía bacteriana y la neumonía viral de las CXR normales.
• Se desarrolló un tercer clasificador para distinguir entre las presentaciones de neumonía bacteriana y viral.
• El coeficiente de correlación de Matthews y la entropía de predicción se calcularon en un conjunto de datos CXR pediátrico.

Principales resultados:

• Los clasificadores entrenados para distinguir la neumonía normal de la bacteriana o viral clasificaron erróneamente los subtipos de neumonía no vistos.
• Los modelos mostraron una alta confianza en las predicciones erróneas, lo que indica un fracaso para aprender las características específicas del patógeno.
• Las medidas de incertidumbre no impidieron efectivamente la clasificación errónea de las presentaciones superpuestas de neumonía.

Conclusiones:

• Los clasificadores binarios de DL tienden a alucinar al centrarse en los indicadores generales de neumonía en lugar de las características etiológicas específicas.
• El enfoque actual desafía la utilidad clínica de estos modelos DL para la clasificación precisa de los subtipos de neumonía.
• Se necesita más investigación para desarrollar modelos de DL que identifiquen de manera confiable la neumonía específica del patógeno a partir de CXR.