De Transformer de Borde a Decisiones de IoT: Embeddings Descargados para Detección de Intrusiones Ligera

Área de la Ciencia:

• Inteligencia Artificial
• Seguridad del Internet de las Cosas
• Aprendizaje Automático

Sus antecedentes:

• La convergencia de la Inteligencia Artificial (IA) y el Internet de las Cosas (IoT) presenta oportunidades para aplicaciones inteligentes.
• Los Modelos de Lenguaje Grandes (LLM) ofrecen capacidades avanzadas para la comprensión del lenguaje natural y la mejora de la seguridad de IoT.
• La integración de LLM computacionalmente intensivos en entornos IoT con recursos limitados plantea desafíos significativos.

Objetivo del estudio:

• Examinar la adaptación de los LLM para asegurar los ecosistemas de IoT.
• Identificar áreas de aplicación clave y desafíos en la integración LLM-IoT.
• Proponer estrategias de optimización para el despliegue de LLM en entornos IoT con recursos limitados.

Principales métodos:

• Introducción de SEED (Semantic Embeddings for Efficient Detection), un mecanismo colaborativo de descarga de embeddings para la detección de intrusiones en IoT.
• Aprovechamiento de un modelo BERT ligero y afinado para generar embeddings de red en el borde.
• Utilización de una red neuronal compacta en los dispositivos finales para consultar embeddings para la evaluación de la normalidad del flujo de red.

Principales resultados:

• Un modelo BERT optimizado se redujo aproximadamente en un 90% (41 MB), adecuado para el despliegue en el borde.
• Una red neuronal compacta (137 KB) diseñada para dispositivos IoT.
• Se logró una precisión de detección del 99,9% con un tiempo de inferencia promedio inferior a 70 ms en una CPU estándar.

Conclusiones:

• El sistema SEED alivia eficazmente las cargas computacionales para el despliegue de LLM en dispositivos IoT.
• La arquitectura propuesta capitaliza el rendimiento analítico de LLM en entornos con recursos limitados.
• Discusión sobre implicaciones éticas y resiliencia de LLM en entornos IoT dinámicos y adversarios.