基于激活值分布差异的对抗样本检测方法及系统

摘要

本发明涉及一种基于激活值分布差异的对抗样本检测方法及系统，该方法包括步骤：获取待检测样本，所述待检测样本为图像样本；将待检测样本输入预先训练的图像分类器中，在图像分类器的每个神经网络层经激活函数激活后，得到对应的激活值；基于待检测样本在各神经网络层的激活值分布进行分析，输出检测结果。本发明方法利用正常样本和对抗样本分别在神经网络中的激活值分布存在差异的原理，通过模拟待检测样本在神经网络中的激活值分布，并基于该分布进行分析，可以较为准确地检测出待检测样本是否为对抗样本。