基于后门不可迁移性的通用后门攻击检测方法

摘要

本发明公开了一种基于后门不可迁移性的通用后门攻击检测方法，包括：S1、收集保留数据集；S2、收集与待检测深度学习模型相同或属于同类任务的开源预训练模型，作为特征提取器；S3、计算各保留数据集类的类内相似度和类间相似度；S4、基于每类的相似度分别确定各类的独立阈值；S5、观察待检测深度学习模型运行时对输入样本的预测；S6、计算输入样本与保留数据集中预测类别样本的相似度与该类阈值比较，判断样本是否被加入了触发器。本发明提出了后门攻击不可迁移这一关键观察，利用后门攻击隐空间特性进行检测，无需依赖机器学习昂贵的计算资源和专业知识需求，适用于在线实时检测，且具有检测可靠性高，时间成本低，用户友好度好优点。