Selección de características basadas en la instancia para explicar clasificadores visuales

Área de la Ciencia:

• Ciencias de la computación
• Inteligencia artificial
• Aprendizaje automático

Sus antecedentes:

• Los clasificadores de imágenes de caja negra carecen de transparencia, lo que dificulta la confianza y la depuración.
• Los métodos de interpretabilidad existentes a menudo no logran capturar las verdaderas relaciones causales.

Objetivo del estudio:

• Proponer un nuevo marco de interpretación para los clasificadores de imágenes de caja negra.
• Identificar las regiones de entrada con mayor influencia causal en las predicciones del modelo.

Principales métodos:

• Integración de la selección de características de la instancia con el razonamiento causal.
• Formalización de la influencia causal mediante el uso de un modelo causal estructural y la información mutua condicional.
• Empleando el muestreo continuo de subconjuntos y la entropía de orden α de Rényi para la optimización.

Principales resultados:

• El método propuesto genera explicaciones compactas, semánticamente significativas y causalmente fundamentadas.
• Los experimentos muestran un rendimiento superior a las líneas de base existentes en la fidelidad predictiva a través de conjuntos de datos de visión.

Conclusiones:

• Este marco ofrece un enfoque sólido para comprender las decisiones del clasificador de imágenes de caja negra.
• El razonamiento causal proporciona una base más confiable para la interpretabilidad que las medidas tradicionales de importancia de la característica.