对文本到图像扩散模型的对抗性歧视性攻击
Hanxiao Wu1, Shengwu Xiong2, Dong Yi3
1School of Computer Science and Artificial Intelligence, Wuhan University of Technology, Wuhan, 430070, Hubei, China; Institute of Automation, Chinese Academy of Sciences, Beijing, 100190, China; School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, 101408, China; Wuhan AI Research, Wuhan, 430000, Hubei, China.
概括
一种新的攻击方法,即对抗性歧视性攻击 (ADAtk),有效地绕过了概念删除扩散模型中的安全机制. ADAtk以超过90%的成功率生成被归类为"不安全用于工作" (NSFW) 的图像,揭示了当前AI安全技术的漏洞.
科学领域:
- 人工智能的人工智能
- 计算机视觉 计算机视觉
- 生成型模型 生成型模型
背景情况:
- 概念删除的传播模型在防止不安全工作 (NSFW) 内容生成方面面临挑战.
- 现有的攻击方法专注于图像相似性,这不能保证成功的NSFW重建.
研究的目的:
- 提出一种新的攻击方法,即对抗性歧视性攻击 (ADAtk),以揭露概念删除扩散模型中的漏洞.
- 通过采用歧视性方法来解决现有的以代为中心的攻击的局限性.
主要方法:
- ADAtk通过在模型的潜在空间中创建对抗性干扰来优化生成NSFW内容的可能性.
- 该方法引导图像重建到目标歧视类,旨在将其归类为不适当的.
主要成果:
- 在绕过当前的内部安全机制方面,ADAtk取得了超过90%的成功率.
- 这次攻击成功地揭示了扩散模型现有的概念除技术的关键局限性.
结论:
- ADAtk为提高文本到图像生成系统的安全性和可靠性提供了关键的见解.
- 这些发现为开发更安全的生成人工智能模型和强大的安全协议铺平了道路.
