エッジトランスフォーマーからIoT決定へ：軽量侵入検知のためのオフロードされた埋め込み

科学分野:

• 人工知能
• モノのインターネットセキュリティ
• 機械学習

背景:

• 人工知能（AI）とモノのインターネット（IoT）の収束は、インテリジェントアプリケーションの機会をもたらします。
• 大規模言語モデル（LLM）は、自然言語理解とIoTセキュリティ強化のための高度な機能を提供します。
• 計算集約的なLLMをリソースが制約されたIoT環境に統合することは、大きな課題をもたらします。

研究 の 目的:

• LLMをIoTエコシステムのセキュリティ保護に適合させることを検討する。
• LLMとIoTの統合における主要なアプリケーション領域と課題を特定する。
• リソースが制限されたIoT設定でのLLM展開のための最適化戦略を提案する。

主な方法:

• IoT侵入検知のための協調的埋め込みオフロードメカニズムであるSEED（Semantic Embeddings for Efficient Detection）の導入。
• ネットワーク埋め込みをエッジで生成するために、軽量でファインチューニングされたBERTモデルを活用する。
• ネットワークフローの正規性評価のために埋め込みを照会するために、エンドデバイスでコンパクトなニューラルネットワークを利用する。

主要な成果:

• 最適化されたBERTモデルは約90%（41MB）削減され、エッジ展開に適しています。
• IoTデバイス用に設計されたコンパクトなニューラルネットワーク（137KB）。
• 標準CPUで70ms未満の平均推論時間で99.9%の検出精度を達成しました。

結論:

• SEEDシステムは、IoTデバイスでのLLM展開の計算負荷を効果的に軽減します。
• 提案されたアーキテクチャは、リソースが制限された環境でのLLMの分析パフォーマンスを活用します。
• 動的で敵対的なIoT設定における倫理的影響とLLMの回復力についての議論。