ARMOR：データ拡張に対する学習不能な例の保護

科学分野:

• コンピュータサイエンス
• 人工知能
• データプライバシー

背景:

• オンラインのプライベートデータは、ディープニューラルネットワーク（DNN）のトレーニングのための不正な収集に対して脆弱です。
• 学習不能な例は、DNNのトレーニング損失を最小限に抑えることでデータを保護し、データの学習を困難にすることを目的としています。
• 一般的な前処理ステップであるデータ拡張は、保護されたデータに意図せずプライバシーを回復させる可能性があります。

研究 の 目的:

• 学習不能な例に対するデータ拡張によって導入されるプライバシー侵害のリスクを調査および明らかにする。
• データ拡張によって誘発されるプライバシー侵害に対する新しい防御フレームワークであるARMORを提案する。
• モデルトレーニングプロセスに直接アクセスせずに、データプライバシーを防御する方法を開発する。

主な方法:

• 非局所モジュール支援型サロゲートモデルは、データ拡張の効果をシミュレートするために設計されました。
• サロゲート拡張選択戦略は、クラスごとに拡張を最適化するために開発されました。
• 動的ステップサイズ調整アルゴリズムは、防御ノイズを生成するために使用されました。
• 4つのデータセットと5つの拡張方法で広範な実験が実施されました。

主要な成果:

• データ拡張は、学習不能な例に対するモデル精度を大幅に向上させ、21.3%から66.1%に向上させました。
• ARMORは、データ拡張に対して保護されたプライベートデータの学習不能性を効果的に維持しました。
• ARMORは、ベースライン手法よりも最大60%高いテスト精度低下をもたらしました。
• 提案された防御フレームワークは、敵対的トレーニングに対して堅牢性を示しました。

結論:

• データ拡張は、学習不能なデータに適用されると、プライバシーに対する重大な脅威となります。
• ARMORフレームワークは、これらのプライバシーの脆弱性に対する効果的な防御メカニズムを提供します。
• ARMORは、複雑な前処理技術を使用する場合でも、機械学習パイプラインでプライベートデータを保護するための堅牢なソリューションを提供します。