Perspectiva Teórica sobre Explicaciones de Atribución para Redes Neuronales Profundas

Área de la Ciencia:

• Inteligencia Artificial
• Aprendizaje Automático
• IA Explicable (XAI)

Sus antecedentes:

• Los métodos de explicación de atribución tienen como objetivo cuantificar las contribuciones de las variables de entrada a las predicciones de las redes neuronales profundas (DNN).
• Un desafío fundamental es la falta de fidelidad, lo que cuestiona si estos métodos reflejan verdaderamente la lógica de toma de decisiones de las DNN.

Objetivo del estudio:

• Proporcionar una revisión integral de los avances teóricos recientes en métodos de atribución para DNN.
• Abordar los desafíos centrales de la unificación teórica, la justificación y la evaluación basada en principios de los métodos de atribución.

Principales métodos:

• Revisión de estudios teóricos sobre métodos de atribución.
• Enfoque en tres direcciones: unificación teórica, justificación teórica y evaluación teórica.
• Análisis de puntos en común, diferencias, justificaciones matemáticas y principios de fidelidad.

Principales resultados:

• Identificados avances clave en la unificación teórica de métodos de atribución.
• Aclaradas las justificaciones matemáticas y conceptuales para los métodos existentes.
• Establecidos métodos basados en principios para evaluar la fidelidad de la atribución.

Conclusiones:

• Los estudios teóricos son cruciales para comprender y mejorar los métodos de atribución.
• Se proporcionan recomendaciones prácticas para el diseño, la selección y el uso de métodos basados en hallazgos teóricos.
• Se discuten problemas abiertos y direcciones de investigación futuras en la explicación de atribución.