Hacia Clínicos de IA Seguros: Un Estudio Integral sobre el Jailbreaking de Modelos Lingüísticos Grandes en la...

Área de la Ciencia:

• Inteligencia Artificial
• Informática Médica
• Ciberseguridad

Sus antecedentes:

• Los modelos lingüísticos grandes (LLM) se integran cada vez más en la atención médica.
• El despliegue en entornos clínicos plantea importantes preocupaciones de seguridad, especialmente en lo que respecta a la desinformación.
• Evaluar las vulnerabilidades de los LLM en contextos médicos es crucial para la adopción segura de la IA.

Objetivo del estudio:

• Evaluar sistemáticamente la susceptibilidad de siete LLM a técnicas avanzadas de jailbreaking en escenarios médicos.
• Introducir un pipeline de evaluación agéntico automatizado y adaptado al dominio para cuantificar la efectividad del ataque.
• Investigar el ajuste fino continuo (CFT) como mecanismo de defensa contra ataques adversarios médicos.

Principales métodos:

• Se realizaron evaluaciones de caja negra de siete LLM utilizando tres técnicas avanzadas de jailbreaking.
• Se desarrolló y empleó un pipeline de evaluación agéntico automatizado y adaptado al dominio.
• Se evaluó la eficacia del ajuste fino continuo (CFT) para mitigar las vulnerabilidades identificadas.

Principales resultados:

• Los LLM comerciales y de código abierto líderes demostraron una alta vulnerabilidad al jailbreaking médico.
• El pipeline de evaluación propuesto cuantificó eficazmente el impacto de los ataques adversarios.
• El ajuste fino continuo (CFT) mostró ser prometedor para mejorar la resiliencia de los LLM contra ataques médicos específicos.

Conclusiones:

• Los LLM actuales son susceptibles al jailbreaking médico sofisticado, lo que supone riesgos para la seguridad del paciente.
• La alineación de seguridad específica del dominio y los métodos de evaluación robustos son esenciales para los clínicos de IA.
• Equilibrar la seguridad y la utilidad de la IA es fundamental para el despliegue ético y eficaz de la IA en la atención médica.