Mejora de la detección fuera de distribución con puntuación de distribución bilateral

Área de la Ciencia:

• Aprendizaje automático
• Inteligencia artificial
• Visión por computadora

Sus antecedentes:

• La detección fuera de distribución (OOD) es vital para la IA confiable en sistemas críticos para la seguridad.
• Los métodos existentes luchan con la sobreconfianza del clasificador y las muestras OOD engañosas.
• Los métodos actuales de detección OOD post-hoc carecen de un rendimiento sólido contra ciertas distribuciones de datos OOD.

Objetivo del estudio:

• Desarrollar un método novedoso de detección OOD que supere las limitaciones de los enfoques existentes.
• Introducir un nuevo mecanismo de puntuación OOD basado en el concepto de una "muestra OOD ideal".
• Mejorar la confiabilidad y seguridad de los modelos de aprendizaje automático en aplicaciones del mundo real.

Principales métodos:

• Se propuso el concepto de una "muestra OOD ideal" equidistante de todos los centros de clase en el espacio de características.
• Se definió una puntuación OOD novedosa basada en la similitud con esta muestra OOD ideal.
• Se introdujo la Puntuación de Distribución Bilateral (BDS) que integra las puntuaciones OOD y de distribución en el conjunto de entrenamiento (ID).

Principales resultados:

• BDS demostró capacidades superiores de detección OOD en los puntos de referencia ImageNet-1k y CIFAR-10.
• Logró una reducción del 10,78% en la tasa de falsos positivos promedio al 95 % (FPR95) en comparación con los métodos de última generación.
• El método no requiere modificaciones arquitectónicas ni reentrenamiento, lo que garantiza la compatibilidad con versiones anteriores.

Conclusiones:

• BDS ofrece un avance significativo en la detección OOD, mejorando la confiabilidad del modelo.
• El método propuesto es efectivo y práctico, integrándose perfectamente con las técnicas existentes.
• BDS mejora la solidez de los modelos de aprendizaje automático contra muestras OOD.