一种基于YOLO-V3算法的神经网络后门攻击防御方法

摘要

一种基于YOLO‑V3算法的神经网络后门攻击防御方法，对待检测神经网络模型运用逆向工程、模型反演恢复模型的输入训练集；将恢复的训练集使用算法获取输入图像中图像主体的预测框；使用聚类算法获取输入图像主要颜色，将获取的预测框外部分替换为图像主要颜色，生成干净的输入样本；将得到的干净输入样本重新作为神经网络模型的输入，输出神经网络模型分类结果。本发明切断模型可能存在的后门与输入数据中对应的触发器之间的联系，将模型与触发器隔离从而实现神经网络后门攻击的防御，保证输入样本的安全性，实现防御神经网络后门攻击的目的；从输入样本入手，直接阻断触发器与神经网络后门之间的联系，也避免直接修改模型造成模型分类准确率下降等问题。