費用対効果の高い景観平坦化による対抗的な譲渡性の強化

科学分野:

• 人工知能 (AI) とは,人工知能 (AI) のことです.
• コンピュータビジョン コンピュータビジョン
• 機械学習のセキュリティーについて

背景:

• 敵対的な例は,機械学習モデルの脆弱性を示しています.
• 敵対的な例の,特にターゲティングされた例の移転性は,実用的な攻撃にとって極めて重要です.
• 既存の方法は,最小値を無視して,損失の景観の最大値での混乱を最適化することに焦点を当てています.

研究 の 目的:

• 入力損失の格差を平坦化することで,対抗的移転性が向上することを理論的かつ実証的に実証する.
• ローカルマキシマムとミニマムの両方を考慮した新しい,費用対効果の高い攻撃方法を提案し,移転性を向上させる.

主な方法:

• 理論的には,損失の景観の平坦化が対抗的な譲渡性に与える影響を分析した.
• 費用対効果の高いLandscape Flattening (CLEF) 攻撃を提案しました.
• ローカルマキシマムに向けて最適化するために利用されたグラデントの再利用.
• ローカル最小値に向けて最適化するための確率モデリングを採用し,事前トレーニングを可能にしました.

主要な成果:

• 局所的な最大値と最小値の両方で混乱を最適化すると,損失の景観が平らになることを示しました.
• CLEF攻撃は,既存の方法と比較して,標的の対抗的な移転性を大幅に改善します.
• ミニマの最適化のための確率モデリングは,事前に訓練され,攻撃コストを削減できます.

結論:

• 最大値と最小値の両方を考慮することによって,損失の景観を平坦化することは,敵対的移転性を高めるための効果的な戦略です.
• 提案されたCLEF攻撃は,転送可能な敵対的な例を生成するための費用対効果の高い強力な方法を提供します.
• この研究は,敵の強度と攻撃方法論を理解し改善するための新しい道を開きます.