Mejorar la resiliencia adversarial en el almacenamiento en caché semántico para sistemas de generación aumentada de...

Área de la Ciencia:

• La inteligencia artificial es inteligencia artificial.
• Procesamiento del lenguaje natural.
• Aprendizaje automático Seguridad de seguridad de aprendizaje automático.

Sus antecedentes:

• Los grandes modelos de lenguaje (LLM) con generación aumentada de recuperación (RAG) ofrecen capacidades avanzadas de PNL, pero enfrentan altos costos computacionales debido al procesamiento repetido de consultas.
• El almacenamiento en caché semántico mitiga estos costos al reutilizar respuestas pasadas para consultas similares, pero los métodos existentes son vulnerables a ataques adversarios que explotan la similitud semántica.

Objetivo del estudio:

• Para investigar las vulnerabilidades de seguridad en los actuales sistemas de caché de proximidad semántica, ejemplificado por GPTCache.
• Introducir SAFE-CACHE, un nuevo y robusto enfoque de almacenamiento en caché semántico diseñado para resistir la explotación adversaria.

Principales métodos:

• SAFE-CACHE emplea una estrategia basada en cluster-centroid, en contraste con la incorporación de una sola consulta de GPTCache.
• Utiliza agrupación sin supervisión, detección de ruido estadístico, refinamiento de bi-encoder y un LLM afinado para la inferencia de intención.
• Compara las consultas entrantes con los centroides del clúster para una validación semántica mejorada.

Principales resultados:

• SAFE-CACHE reduce significativamente las tasas de éxito de los ataques adversarios del 52,77% al 14,27% en comparación con GPTCache.
• Demuestra hasta un 72% de mejora en la resistencia al adversario.
• Mantiene la confiabilidad del sistema y la seguridad contra entradas maliciosas.

Conclusiones:

• Los sistemas de almacenamiento en caché semántico actuales como GPTCache son susceptibles a ataques adversarios.
• SAFE-CACHE ofrece una alternativa más segura y resistente a través de su enfoque centrado en el clúster.
• El método propuesto mitiga efectivamente los riesgos de seguridad al tiempo que preserva los beneficios del almacenamiento en caché semántico para LLMs.