Mejorar la interpretabilidad de la decodificación por resonancia magnética funcional utilizando redes neuronales...

Área de la Ciencia:

• La neurociencia
• Aprendizaje automático
• Ciencia de los datos

Sus antecedentes:

• Las redes neuronales profundas (DNN) son herramientas poderosas para analizar datos complejos y de alta dimensión, pero a menudo se consideran "cajas negras" debido a su falta de interpretabilidad.
• Comprender qué características de entrada impulsan las predicciones de DNN es crucial para las aplicaciones en la neurociencia cognitiva y la neuroinformática.
• Los mapas de saliencia se utilizan comúnmente para visualizar la importancia de las características de entrada, pero los métodos existentes pueden ser poco confiables, sensibles al ruido y difíciles de evaluar.

Objetivo del estudio:

• Revisar los métodos de mapeo de la saliencia basados en gradientes para las RND.
• Introducir un nuevo método de entrenamiento adversarial para mejorar la robustez de la DNN frente al ruido de entrada y mejorar la interpretabilidad.
• Proponer y validar procedimientos de evaluación cuantitativa para la interpretabilidad de mapas de saliencia en datos de neuroimagen.

Principales métodos:

• Una revisión de las técnicas de mapeo de saliencia basadas en gradientes existentes.
• Desarrollo de un enfoque de formación adversarial para las RND resistentes al ruido.
• Introducción de dos procedimientos de evaluación cuantitativa para mapas de saliencia, probados con datos sintéticos y datos de resonancia magnética funcional (fMRI) del Proyecto Conectoma Humano (HCP).

Principales resultados:

• Los mapas de saliencia generados por diferentes métodos muestran una variabilidad significativa en la interpretabilidad.
• A pesar del rendimiento de decodificación comparable, los mapas de saliencia derivados de DNN mostraron una mayor interpretabilidad que los de los modelos lineales.
• El método de entrenamiento adversarial propuesto dio como resultado mapas de saliencia que superaron a los métodos alternativos en cuanto a interpretabilidad.

Conclusiones:

• La interpretabilidad de los mapas de saliencia varía ampliamente según los diferentes métodos y tipos de modelo.
• El entrenamiento adversarial ofrece un enfoque prometedor para mejorar la interpretabilidad de las DNNs en la neuroimagen.
• Los procedimientos de evaluación desarrollados proporcionan un marco sólido para evaluar la calidad de los mapas de saliencia en las tareas de decodificación.