SpyShield: 連邦学習における毒攻撃に対するSpyfallにインスパイアされた防御メカニズム

科学分野:

• コンピュータ科学
• 人工知能
• サイバーセキュリティ

背景:

• 伝統的な機械学習 (ML) 中央化されたアーキテクチャはデータプライバシーのリスクを伴います.
• フェデラート・ラーニング (Federated Learning, FL) は,原始データを共有することなく,協力的なモデルトレーニングを可能にしますが,データとモデルの毒化の攻撃には脆弱です.
• 現在の FL 防御は,クライアント側での協力が欠け,サーバー側での分析に依存しています.

研究 の 目的:

• "スパイシールド"を提案します 連邦学習のための新しい防御メカニズムで 悪意のあるクライアントを特定するために クライアントの協力を利用します
• SpyShieldの強度と性能を評価する 様々なデータとモデルの毒攻撃に対して
• 異なる攻撃シナリオと強度のベンチマーク集約アルゴリズムとSpyShieldを比較する.

主な方法:

• SpyShieldを開発し,悪意のある参加者を検出するためにクライアントの協力を利用する,社会的控除ゲームにインスパイアされた防御メカニズムです.
• FedAvg, Krum, Multi-Krum, Median,および Trimmed Mean アグリゲーションアルゴリズムに対する FashionMNIST データセットでの SpyShield のパフォーマンスを評価した.
• サイクリック・ラベル・フリッピング,ランダム・ラベル・フリッピング,ランダム・ウェイト・アタックに対して,異なる数の悪意のあるクライアント (3/30,10/50,40/100) を含むシナリオでテストされています.

主要な成果:

• SpyShieldはすべてのテストされた実験設定と攻撃タイプで優れた性能と回復力を実証しました.
• SpyShieldの少なくとも1つの構成は,すべてのシナリオで,すべてのベンチマークアルゴリズムよりも一貫して高い精度を達成しました.
• 提案されたメカニズムは,悪意のあるクライアントを効果的に特定し,統合学習におけるモデルのセキュリティを大幅に強化しました.

結論:

• SpyShieldは,毒攻撃に対する 連邦学習モデルを保護するための 堅牢で一般化可能な防御メカニズムを提供します.
• SpyShieldが採用しているクライアント協力戦略は,従来の中央化されたサーバーサイド分析を超えています.
• FLのセキュリティとレジリエンスを強化するための 共同戦略の可能性を示唆しています