一种基于Patch的视觉目标检测器对抗攻击算法研究

摘要

深度学习技术引领了人工智能系统的发展高潮,但同时越来越多的研究发现,深度神经网络模型(Deep Neural Network,DNN)存在不够鲁棒的缺点。提出了一种基于Patch的“对抗攻击”算法,成功欺骗了目标检测领域知名的DNN-Based YOLO模型。该算法可以通过不影响人类对图像理解的轻微噪音,使得原本检测效果良好的YOLO模型“失明”,失去对目标的检测能力。