基于AE-WGAN的定向对抗样本生成及利用

摘要

由于对抗样本存在通过不易察觉的微小扰动破坏模型准确度的特性,在很大程度上影响深度学习在高安全性需求领域中的应用和部署,例如无人驾驶系统、无人机和入侵检测等。为了生成一种含有轻微语义扰动的对抗样本,文中利用对抗生成网络,设计并实现了一种高质量映射转换的AE-WGAN(Auto Encoder WGAN),然后利用隐层编码迁移算法(Latent Encodings Targeted Transfer,LE-TT)生成定向对抗样本,实现无需获取目标模型内部信息即可定向改变模型预测结果的黑盒攻击。基于经典图像数据集MNIST、CIFAR-10的对抗样本生成结果表明:LE-TT算法不仅展现出良好的黑盒攻击效果,还具有良好的可转移性;此外,作为一种半监督数据扩增方式,该算法生成的对抗样本被赋予正确的标签后,加入模型再训练后提升了对已知分布外数据的泛化能力。