Síntesis de la explicabilidad a través de múltiples modelos de ML para datos estructurados

Área de la Ciencia:

• Aprendizaje automático Aprendizaje automático.
• La IA explicable (XAI, por sus siglas en inglés)
• Ciencia de datos Ciencia de datos.

Sus antecedentes:

• Los dominios de alto riesgo requieren una agregación de importancia de características reproducibles en múltiples modelos.
• Los métodos existentes luchan por capturar relaciones complejas en las salidas del explicador.

Objetivo del estudio:

• Introducir el marco del puntaje de importancia ponderada y el recuento de frecuencias (WISFC) para una clasificación robusta de la importancia de las características del conjunto.
• Proporcionar un enfoque basado en principios para conciliar y agregar la importancia de las características de diversos explicadores.

Principales métodos:

• Los agregados del marco WISFC clasificaron las salidas de diversos explicadores.
• Asigna una puntuación ponderada basada en el rango y la frecuencia a través de pares modelo-explicador.
• Este método consolida las señales débiles de múltiples ejecuciones de modelado.

Principales resultados:

• WISFC genera una robusta clasificación de la importancia de las características del conjunto.
• Destaca características consistentemente importantes mediante la agregación de diversas perspectivas del modelo.
• El marco ofrece un enfoque más basado en principios que los simples métodos de consenso.

Conclusiones:

• WISFC mejora la exploración de sistemas complejos mediante la combinación sistemática de múltiples perspectivas de modelado.
• El marco es reproducible y generalizable para varios modelos de aprendizaje automático.
• Ofrece una nueva estrategia para investigadores y profesionales en el análisis de la importancia de las características.