通过大脑活动集成增强对抗防御,而没有对抗示例
Tasuku Nakajima1, Keisuke Maeda2, Ren Togo2
1Graduate School of Information Science and Technology, Hokkaido University, N-14, W-9, Kita-ku, Sapporo 060-0814, Japan.
这项研究通过使用人类大脑活动,引入了一种针对像CLIP这样的人工智能模型的对抗性攻击的新防御方法. 这种方法提高了模型的稳定性,而不会牺牲正常图像的性能.
科学领域:
- 人工智能的人工智能
- 计算机视觉 计算机视觉
- 神经科学是一个神经科学.
背景情况:
- 大规模的视觉语言模型 (例如,CLIP) 容易受到对抗性攻击,在这种情况下,不可察觉的图像修改会降低性能.
- 现有的防御通常需要对特定攻击的了解,并损害对清洁数据的准确性.
研究的目的:
- 为视觉语言模型开发强大的对抗防御,克服强度和清洁准确性之间的权衡.
- 为了利用人类大脑活动数据,开发一种新型的防御机制来抵御未知的敌对攻击.
主要方法:
- 提出了一种对抗防御方法,将人类大脑活动特征与使用编码器的增强图像特征集成在一起.
- 将编码器预测的特征与原始视觉特征之间的相似性最大化,以实现类似人类的视觉不变性和数据多样性.
- 开发了一个独立于特定对手攻击知识的防御策略.
主要成果:
- 拟议的方法显著提高了CLIP模型对抗对抗攻击的稳定性.
- 保持清晰图像的准确性,克服了典型的性能权衡.
- 证明了对未知的敌对攻击的坚固性.
结论:
- 人类大脑活动数据可以有效地用于增强视觉语言模型中的对抗性强度.
- 拟议的方法提供了一个有前途的解决方案,可以在不降低性能的情况下防御各种和未知的对抗性攻击.
- 这项研究通过结合神经启发的原则,突出了人工智能安全的新方向.
更多相关视频
13:09Using Brain Activation nir-HEG/Q-EEG and Execution Measures CPTs in a ADHD Assessment Protocol
Published on: April 1, 2018
06:42Continuous Theta Burst Stimulation of the Posterior Medial Frontal Cortex to Experimentally Reduce Ideological Threat Responses
Published on: September 28, 2018
相关概念视频
Integration of Synaptic Events
Cognitive Enhancers: Cholinesterase Inhibitors and NMDA Receptor Antagonists
Special Features of Adaptive Immunity
The primary cell types involved in adaptive immunity are T cells and B cells. Each type has a unique role in defending the body against pathogens. T cells are responsible for cell-mediated immunity. They identify and eliminate infected cells directly,...
Cells of the Adaptive Immune Response
Antigens Involved in Adaptive Immunity
Complete Antigens
Complete antigens possess both immunogenicity and reactivity.
B Cell Activation and Differentiation
When naive B cells encounter a specific antigen that can bind to the B cell receptor (BCR) on their surface, they undergo sensitization to respond to the antigen's presence. Sensitization begins with...
