基于快速边界攻击的黑盒对抗样本生成方法

摘要

深度学习技术在不同领域有着广泛的应用,然而一个训练好的深度学习模型很容易受到干扰而得出错误的结果,从而引发严重的安全问题.为了检验深度学习模型的抗干扰性,提高模型的安全性和鲁棒性,有必要使用对抗样本进行对抗评估和对抗训练.有目标的黑盒对抗样本的生成方法具有较好的实用性,是该领域的研究热点之一.有目标的黑盒对抗样本生成的难点在于,如何在保证攻击成功率的前提下提高对抗样本的生成效率.为了解决这一难点,本文提出了一种基于快速边界攻击的有目标攻击样本生成方法.该方法包括线上的搜索和面上的搜索两步.线上的搜索由单侧折半法来完成,用于提高搜索效率;面上的搜索通过自适应调节搜索半径的随机搜索完成,用于提高搜索的广度.通过对5组图片的实验结果验证了方法的可行性.