颜色模型扰动的语义对抗样本生成方法

摘要

卷积神经网络是一种具有强大特征提取能力的深度神经网络,其在众多领域得到了广泛应用.但是,研究表明卷积神经网络易受对抗样本攻击.不同于传统的以梯度迭代生成对抗扰动的方法,提出了一种基于颜色模型的语义对抗样本生成方法,利用人类视觉和卷积模型在识别物体中表现出的形状偏好特性,通过颜色模型的扰动变换来生成对抗样本.在样本生成过程中其不需要目标模型的网络参数、损失函数或者相关结构信息,仅依靠颜色模型的变换和通道信息的随机扰动,所以这是一种可以完成黑盒攻击的对抗样本.