基于显著性对抗训练的对抗样本防御方法

摘要

本发明公开了一种基于显著性对抗训练的对抗样本防御方法，包括：利用投影梯度下降法生成对抗样本；利用可解释性方法获取模型对于对抗样本的显著图；将显著图划分为预设数量的小块样本，并计算每个小块样本的平均显著值，每个小块样本根据对应位置的平均显著值进行JPEG压缩；将显著性压缩后的对抗样本作为训练数据进行对抗训练。在测试时，将显著性压缩后的样本输入模型进行识别。该方法提升模型的对抗鲁棒性，提升模型对于对抗样本的识别准确率。