基于生成对抗网络的少特征对抗攻击算法研究与应用

摘要

近年来，机器学习算法已经广泛的应用到我们的日常生活中。常规机器学习算法在工业界的推荐、广告系统有着广泛应用，为商业界带来了巨大的利益。深度学习算法已经被广泛的应用到图像，语音以及推荐系统等多个技术领域，而且取得了令人振奋的成果，在诸多领域都已经达到甚至超越了人类水平。以强化学习算法为核心的AlphaGo、AlphaZero在围棋领域战胜了多名职业选手。在其技术不断提升的过程中，“对抗样本”这一概念被提出。对抗样本是指攻击者在原始的样本中加上一些微小的扰动，使得机器学习模型或是深度学习模型以一个很高的置信区间去输出一个错误的类别，大大的降低了识别的准确率，攻击者以此达到攻击的目的。机器学习算法的这种“易脆性”非常值得广大学者深入研究。在自动驾驶汽车、人脸面部识别、垃圾邮件系统、安全监视系统等对安全性有严格要求的应用中，对抗样本的攻击严重阻碍了人工智能系统的部署。对抗样本对人工智能的安全性构成了极大威胁。这可能导致由人工智能系统发生紊乱，导致错误判断或是漏判，系统崩溃甚至被敌方所用。当然，对抗性样本也可以激发更多关于如何防御对抗样本攻击的研究，从而获得更可靠、更鲁棒的机器学习算法。本文将重点研究对抗样本生成算法，即攻击人工智能系统的算法，具体的工作内容如下：　　(1)本文提出一种新的基于生成式对抗网络的对抗样本生成方法，称之为少特征攻击算法。该算法可以在保证很高攻击成功率的前提下，尽可能的少的改变特征数量以及扰动大小，使得生成的对抗样本与原始样本的距离尽可能的小。　　(2)本文在生成式网络一侧提出了一种并行网络结构，分别为生成扰动的扰动网络和控制改变特征数量的mask网络。　　(3)为保证算法的高效性，本文定义了三个损失函数。其中，扰动函数用来控制扰动的大小，分类损失函数用于生成对抗样本，mask损失函数用于控制改变特征的数量。　　(4)本文在信息安全领域和图像领域总共四个数据集进行了验证，并与目前最先进攻击算法进行对比，实验结果证明了本文提出算法的高效性。

目录

声明

第 1 章绪 论

1.1研究背景与意义

1.2国内外研究现状

1.2.1 生成式对抗网络研究现状

1.2.2 对抗样本研究现状

1.2.3 对抗样本应用现状

1.3论文主要研究内容

1.4论文组织结构

第 2 章对抗样本研究基础

2.2对抗样本

2.2.1 对抗样本攻击

2.2.2 对抗样本防御

2.3攻击目标模型介绍

2.4本章小结

第 3 章少特征对抗攻击算法

3.1.1 快速梯度下降法

3.1.2 单像素攻击法

3.2.1 算法原理

3.2.2 GAN 框架

3.2.3 Mask 机制

3.2.4 目标函数

3.3本章小结

第 4 章基于少特征攻击算法的对抗样本生成及其应用

4.1.1 数据集介绍

4.1.2 黑盒攻击实验结果及分析

4.1.3 白盒攻击实验结果及分析

4.2图像领域实验与分析

4.2.1 数据集介绍

4.2.2 实验结果及分析

4.3本章小结

第 5 章总结与展望

5.2未来展望

参考文献

致 谢

附录 A 攻读学位期间撰写的学术论文

附录 B 攻读学位期间参与的科研项目