基于深度神经网络的鲁棒压缩模型的信息处理方法及系统

摘要

本发明属于深度神经网络技术领域，公开了一种基于深度神经网络的鲁棒压缩模型的信息处理方法及系统，输入层、第一层卷积层和激活层主要部署在移动设备端，第二层卷积层、激活层、池化层、第一层全连接层、激活层、第二层全连接层、激活层、第三层全连接层、激活层和输出层部署在边缘服务器端；移动设备和边缘服务器共同训练两层卷积层和三层全连接层的卷积神经网络；模型训练主要包括三个模块：模型初始化模块、模型压缩模块、模型鲁棒模块；在模型鲁棒模块中，采用基于模型权重分布的防御机制，将拉普拉斯噪声加入到压缩模型中。本发明不需要在训练中加入对抗样本，减小计算开销；同时能够极大提高模型的鲁棒性，具有重要的意义。