面向深度学习模型的对抗攻击与防御方法综述

摘要

深度学习作为人工智能技术的重要组成部分,被广泛应用于计算机视觉和自然语言处理等领域.尽管深度学习在图像分类和目标检测等任务中取得了较好性能,但是对抗攻击的存在对深度学习模型的安全应用构成了潜在威胁,进而影响了模型的安全性.在简述对抗样本的概念及其产生原因的基础上,分析对抗攻击的主要攻击方式及目标,研究具有代表性的经典对抗样本生成方法.描述对抗样本的检测与防御方法,并阐述对抗样本在不同领域的应用实例.通过对对抗样本攻击与防御方法的分析与总结,展望对抗攻击与防御领域未来的研究方向.