MSG:悪意のある稀少性ガイドを通じて,切り取られたニューラルネットワークからデータを盗む

科学分野:

• 機械学習のセキュリティ
• データのプライバシー
• アドバサリアル・マシンの学習

背景:

• 機械学習のクラウドプラットフォームは プライバシーの問題を提起します
• コレレーション値エンコード攻撃 (CVEA) は,トレーニングデータをモデルパラメータに埋め込みます.
• このような攻撃の有効性を低下させることができます.

研究 の 目的:

• CVEAに対するモデルの切断の影響を実証する.
• 斬りやすいデータ暗号化攻撃を提案する
• データ抽出攻撃の ステルス性を高めるため

主な方法:

• CVEAと比較した一般的なモデル剪定技術の経験的評価.
• データを埋め込むための悪意のある Sparsity Guidance (MSG) の開発
• モデルの精度を維持するための知識移転の統合.

主要な成果:

• CVEAの有効性を大幅に低下させる.
• MSGはデータをうまく埋め込み 剪定に抵抗します
• MSGでコードされたモデルは,知識の移転により,剪定後に高い精度を維持します.

結論:

• MSGはデータ抽出攻撃に 強力な方法を提供しています 削られたモデルに対してさえです
• 知識の移転はデータ抽出の不透明性を高めます
• この研究は,安全なモデルの展開における新たな脆弱性を強調しています.