基于参数特征偏移的神经网络隐写检测方法

摘要

目前,许多深度学习的预训练模型被发布出来用以帮助工程师和研究人员开发基于深度学习的系统或进行研究,从而减少了他们的工作量。过去的工作表明,秘密信息可以被嵌入到神经网络参数中且不影响模型的准确性,恶意开发者可以借此将恶意软件或其他有害信息隐藏到预先训练的模型中。因此,对这些隐写后的预训练模型进行可靠的检测非常重要。我们分析了现有的神经网络隐写方法,发现它们不可避免地会导致参数统计的偏差。针对LSB隐写,实验发现其会造成参数位平面随机性上的偏差;针对COR隐写和SGN隐写,实验发现其会造成参数分布上的偏差。基于这些偏差,我们提出神经网络隐写的隐写分析方法,即从良性和恶性模型中提取特征建立分类器。据我们所知,这是第一个检测神经网络隐写术的工作。实验结果表明,本文提出的检测算法能够可靠地检测出含有嵌入式信息的模型。值得注意的是,我们的检测方法即使在低负载下仍然有效。