基于流形理论的对抗样本攻击方法及相关装置

摘要

本发明公开了一种基于流形理论的对抗样本攻击的方法及相关装置，该方法包括：用数据集训练对抗性自动编码器并得到低维向量数据；利用低维向量数据训练低维空间替代模型；将原始样本的低维向量数据输入训练好的低维空间替代模型，得到最大预测概率标签并计算梯度信息；通过梯度解码策略将梯度信息解码到原始空间上生成对抗样本；利用置信度重排序策略对低维空间替代模型输出的各类别标签置信度进行处理，得到预期各类别标签置信度，将对抗样本输入目标模型，得到实际各类别标签置信度；根据实际各类别标签置信度以及预期各类别标签置信度判断样本攻击是否成功。本发明能够满足当前对模型的鲁棒性检测的应用需求。