Jailbreak y Modelos de Lenguaje Alineados con Guardias con solo unas pocas demostraciones en contexto

Área de la Ciencia:

• Inteligencia Artificial
• Procesamiento del Lenguaje Natural
• Seguridad de Aprendizaje Automático

Sus antecedentes:

• Los Modelos de Lenguaje Grandes (LLM) muestran un gran potencial pero son vulnerables a la explotación maliciosa, particularmente ataques de jailbreaking.
• Las entradas adversarias pueden hacer que los LLM generen contenido dañino o poco ético, lo que representa un desafío significativo para la implementación segura.
• El Aprendizaje en Contexto (ICL) es una técnica efectiva y escalable para LLM, que ofrece un enfoque novedoso para abordar las preocupaciones de seguridad.

Objetivo del estudio:

• Investigar el potencial del Aprendizaje en Contexto (ICL) para modular la alineación de seguridad de los Modelos de Lenguaje Grandes (LLM).
• Introducir y evaluar métodos tanto para subvertir como para mejorar la seguridad de LLM usando demostraciones adversarias dentro del marco de ICL.
• Explorar las implicaciones teóricas y empíricas de ICL en la seguridad y alineación de LLM.

Principales métodos:

• Se propuso el Ataque en Contexto (ICA): Utiliza demostraciones dañinas para comprometer la alineación de seguridad de LLM.
• Se propuso la Defensa en Contexto (ICD): Emplea ejemplos de rechazo a indicaciones dañinas para fortalecer la resiliencia de LLM.
• Análisis teórico y validación empírica en múltiples arquitecturas de LLM, conjuntos de datos y líneas de base de ataques.

Principales resultados:

• Se demostró que demostraciones mínimas en contexto pueden alterar eficientemente la alineación de seguridad de LLM.
• ICA subvierte efectivamente la seguridad de LLM, mientras que ICD refuerza significativamente la resiliencia contra resultados dañinos.
• Tanto ICA como ICD mostraron eficacia y escalabilidad en evaluaciones de red-teaming y para desarrollar salvaguardas.

Conclusiones:

• El Aprendizaje en Contexto (ICL) juega un papel fundamental en la seguridad y alineación de LLM, un factor previamente subestudiado.
• Los métodos propuestos ICA e ICD ofrecen nuevas herramientas para comprender y manipular la seguridad de LLM.
• Esta investigación abre nuevas vías para mejorar la seguridad de LLM y desarrollar defensas robustas contra ataques adversarios.