模型的后门检测方法、装置、介质和计算设备

摘要

本发明提供了一种模型的后门检测方法、装置、介质和计算设备。该方法包括：提供用于检测后门的材料，其中，所述材料至少包括用于检测模型是否存在后门的检测样本集；基于所述检测样本集对所述模型的每一类别的输出进行搜索，以得到针对所述模型的每一类别的输出的多个还原结果，其中，所述还原结果用于表征基于一个或多个同类别检测样本，使所述模型的输出结果出错的修改量；根据所述模型的不同类别的输出的还原结果确定所述模型是否存在后门。根据本发明的技术方案，可以采用任何样本检测模型是否存在后门，而不必须是训练模型时使用的样本，给用户带来了更加方便的体验。且仅需提供输入输出反馈，无需模型具体结构和参数，保护了用户知识产权。