テキストから画像への拡散モデルに対する敵対的差別的攻撃
Hanxiao Wu1, Shengwu Xiong2, Dong Yi3
1School of Computer Science and Artificial Intelligence, Wuhan University of Technology, Wuhan, 430070, Hubei, China; Institute of Automation, Chinese Academy of Sciences, Beijing, 100190, China; School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, 101408, China; Wuhan AI Research, Wuhan, 430000, Hubei, China.
まとめ
新しい攻撃方法であるAdversarial Discriminant Attack (ADAtk) は,コンセプトを消去した拡散モデルにおける安全メカニズムを効果的に回避しています. ADAtkは,90%以上の成功率で,Not-Safe-For-Work (NSFW) として分類された画像を生成し,現在のAI安全技術における脆弱性を明らかにします.
科学分野:
- 人工知能 (AI) とは,人工知能 (AI) のことです.
- コンピュータビジョン コンピュータビジョン
- ジェネレーティブ・モデルとは
背景:
- コンセプトが消去された拡散モデルは,NSFW (Not-Safe-For-Work) コンテンツの生成を防ぐという課題に直面しています.
- 既存の攻撃方法は,画像の類似性に重点を置くが,NSFWの再構築が成功することを保証するものではない.
研究 の 目的:
- 新しい攻撃方法である敵対差別攻撃 (ADAtk) を提案し,コンセプト消去型拡散モデルの脆弱性を明らかにする.
- 差別的なアプローチを採用することによって,既存の世代に焦点を当てた攻撃の限界に対処する.
主な方法:
- ADAtkは,モデルの潜在空間で敵対的な混乱を生じることによって,NSFWコンテンツを生成する可能性を最適化します.
- この方法は,画像再構築を対象となる差別的なクラスに向け,不適切なものとして分類することを目指します.
主要な成果:
- ADAtkは,現在の内部セキュリティメカニズムを回避する 90%以上の成功率を達成しました.
- この攻撃は,拡散モデルの既存の概念消去技術における重要な限界を明らかにすることに成功した.
結論:
- ADAtkは,テキストから画像生成システムの安全性と信頼性を向上させるための重要な洞察を提供します.
- この発見は,より安全な生成AIモデルと堅牢な安全プロトコルを開発するための道を開く.
