FeatureTrojan: 機能中毒と微調整インジェクションで,ひっそりと安定したバックドア攻撃を助長する

科学分野:

• 人工知能 (AI) とは,人工知能 (AI) のことです.
• 機械学習のセキュリティーについて
• ディープニューラルネットワークとは

背景:

• ディープニューラルネットワーク (DNN) はバックドア攻撃に脆弱で,その整合性を損なう.
• 既存のバックドア攻撃は,しばしば検出可能なトリガーを使用し,不安定な行動を示します.
• これらの制限は,セキュリティが重要なアプリケーションにおけるDNNの有効性を妨げます.

研究 の 目的:

• FeatureTrojan,DNNsのための新しいバックドア攻撃を紹介します.
• DNNs.のバックドア攻撃のステルス性と安定性を高めるために.
• 現在のバックドア攻撃方法論の限界を克服するために.

主な方法:

• FeatureTrojanは,クリーンインプットの潜在的空間機能の中に,人間に感知できないダイナミックなトリガーを埋め込む.
• これは,事前に訓練された拡散生成モデルを使用して,これらのトリガーで有毒な入力を作成します.
• この方法は,事前に訓練されたDNNを微調整し,クリーンモデルにパラメータの近接性を維持しながらバックドアを注入します.

主要な成果:

• トロイヤンは,DNNに対するバックドア攻撃において,著しく改善された隠蔽性と安定性を示しています.
• 実験では,様々な防御に対して,攻撃成功率 (ASR) が平均約30.0%の改善を示しています.
• この攻撃は,複数のデータセットとDNNアーキテクチャで有効であることが証明されています.

結論:

• トロイヤンは,DNNのバックドア攻撃技術における重要な進歩を表しています.
• 提案された方法は,既存の攻撃と比較して,より堅牢でステルスなアプローチを提供します.
• トロジャンの有効性は,高度なバックドア脅威に対するより洗練された防御メカニズムの必要性を強調しています.