AI领域对抗欺骗与安全防御

摘要

文章分析AI安全身份认证存在的安全隐患，进而提出防止深度学习被攻击的思考：使用低秩增强的网络进行训练，如果收集到对抗样本，可以放到训练集中训练；某些任务不要完全依赖深度学习，在深度学习验证前设置一些校验，或者有意分解任务，在深度学习前，用统计方式解决；尽量使用新版本的深度学习框架，内部挖洞。