一种众包任务下的鲁棒分类器训练方法

摘要

本发明提出了一种众包任务下的鲁棒分类器训练方法，使得训练得到的分类器结果更加鲁棒，在一定程度上可以抵御恶意对抗样本的攻击。本发明首先通过训练一个自动编码器，学习输入样例在隐空间上的表示。将输入投影到隐空间上后，进行两种处理并将损失与正常分类损失一起进行联合对抗训练，得到基本分类器f。鲁棒分类器g通过对输入样例加上高斯噪声扰动，利用蒙特卡罗方法不断查询基本分类器f，输出基本分类器输出最高的概率类别c。本发明还是一种可证明的防御，因而可以用在对安全性要求较高的任务中，在给定的安全范围内保证不会被恶意对抗样本攻击成功。