Explicaciones de modelos de caja negra basadas en interacciones de características direccionales

Área de la Ciencia:

• Aprendizaje automático
• Inteligencia artificial
• IA explicable

Sus antecedentes:

• Los modelos de aprendizaje automático se utilizan cada vez más, pero su naturaleza de 'caja negra' dificulta la transparencia.
• Los métodos de explicación actuales a menudo son univariados y se centran en la importancia de las características individuales.

Objetivo del estudio:

• Extender las explicaciones de características univariadas a un enfoque bivariado de orden superior.
• Mejorar la explicabilidad de los modelos de caja negra capturando las interacciones de características.

Principales métodos:

• Desarrolló un método de explicación bivariado que representa las interacciones de características como un grafo dirigido.
• Aplicó el método a explicaciones de valores de Shapley.
• Analizó la direccionalidad del grafo para identificar características influyentes y grupos de características intercambiables.

Principales resultados:

• Demostró la capacidad de las explicaciones direccionales para descubrir interacciones de características.
• Mostró la superioridad del método bivariado sobre las técnicas de vanguardia.
• Validó el método en diversos conjuntos de datos, incluidos datos de CIFAR10, IMDB, Census, Divorce, Drug y genes.

Conclusiones:

• Las explicaciones bivariadas ofrecen una mayor visión del comportamiento de los modelos de caja negra.
• El análisis del grafo direccional identifica eficazmente las interacciones y la importancia de las características.
• Este enfoque mejora significativamente la transparencia y la interpretabilidad del modelo en diversos dominios.