基于神经网络中间层正则化的黑盒攻击型防御系统及方法

摘要

本发明涉及人工智能安全领域，具体是基于神经网络中间层正则化的黑盒攻击型防御系统，包括第一源模型、第二源模型和第三源模型；基于神经网络中间层正则化的黑盒攻击型防御方法，包括S1、将图片输入第一源模型进行白盒攻击，输出第一对抗样本序列，S2、将第一对抗样本序列输入到第二源模型中，输出第二对抗样本序列，S3、将第二对抗样本序列输入到第三源模型中进行黑盒攻击，输出第三识别样本序列，S4、将第三识别样本序列输入第三源模型进行对抗训练，更新第三源模型；利用该算法生成的对抗样本具有对目标模型高迁移性的特性，也可以有效的通过对抗训练防御目标模型被攻击。