面向语音识别系统的对抗样本攻击及防御综述

摘要

自动语音识别系统(ASR)能将输入语音转换为对应的文本,其性能因深度学习技术的发展得到了显著提高.然而,通过在输入语音中添加微小扰动而生成的对抗样本,可以使人类毫无察觉的同时让ASR系统产生不可预测的,甚至是攻击性的指令.这种新型的对抗样本攻击给基于深度学习的ASR系统带来了诸多安全隐患.本文对语音对抗样本作了系统性的分析和梳理,提出了对现有对抗样本的分类.其次介绍了面向ASR系统的对抗样本生成方法.同时,阐述了典型的对抗样本防御策略.最后讨论了对抗样本带来的挑战,并分别就如何使生成的攻击更加逼真,和增强ASR的鲁棒性提出了若干有价值的研究方向.